Google ужесточила политику ИИ из-за уязвимости

20.05.2026 Google Искусственный Интеллект Новости поисковая система

Google усилил контроль над своими поисковыми ИИ-инструментами после эксперимента журналиста BBC Томаса Жермена

Ещё в феврале Жермен выяснил, что результатами ИИ-выдачи можно управлять. Этим пользуются недобросовестные компании для продвижения своих услуг.

«Мы нашли случаи, когда ChatGPT, Gemini и ИИ-ответы в поиске Google давали предвзятые сведения по серьёзным вопросам вроде здоровья и личных финансов», — отметил он.

За 20 минут журналист смог ввести нейросеть в заблуждение. В открытых результатах Gemini называла его «чемпионом мира по поеданию хот-догов».

«Шутка глупая, но проблема серьёзная», — добавил автор BBC.

Ещё в апреле Google заявлял, что фиксирует непрямые атаки «инъекции промпта». Однако последний случай заставил компанию серьёзнее отнестись к угрозе.

В Google отдельно выделили SEO-сценарии, где владельцы сайтов пытаются заставить ИИ продвигать их бизнес.

Компания официально приравняла такие практики к спаму. Теперь спамом считается не только манипуляция ссылками, но и влияние на генеративные ответы.

Сайты, вставляющие скрытые инструкции ради AI Overviews или AI Mode, могут потерять позиции в выдаче или быть исключены из неё. Таким образом Google распространяет старые принципы борьбы с SEO-манипуляциями на ИИ-поиск.

Что такое непрямая «инъекция промпта»

С технической стороны это скрытое внедрение подсказок для модели.

В отличие от обычного взлома ИИ, где пользователь напрямую пытается обойти ограничения, здесь вредоносная инструкция прячется во внешних данных:

— веб-страницы;
— документы;
— письма;
— другой контент, который ИИ использует для ответа.

В Google называют непрямую «инъекцию промпта» одной из главных угроз для агентских ИИ-систем. Проблема в том, что модель не всегда может отличить запрос пользователя от вредоносной инструкции.

В документации по безопасности Gemini указано, что устойчивость к таким атакам нельзя обеспечить одним методом. Google делает ставку на комбинацию фильтрации, корректировки поведения моделей и постоянного тестирования новых сценариев.

При этом Google не запрещает использование ИИ или автоматизации. Позиция компании в том, что ИИ-контент допустим, если он создаётся с пользой, а не для манипуляции.

Напомним, в мае Google представил Gemini 3.5 Flash — «самую мощную» ИИ-модель для программирования и создания агентов.

Обменять