Атака на ИИ: бесконечные размышления выводят модели из строя

08.07.2026 Искусственный Интеллект Исследования Кибербезопасность Новости

Исследователи из Чжэцзянского университета и Alibaba представили на конференции ICML 2026 в Сеуле новый тип атак на искусственный интеллект. Их задача — не взломать систему или украсть данные, а заставить её обрабатывать запросы так долго, что она становится бесполезной.

Как работает новая методика

Рассуждающие модели, в отличие от обычных языковых, разбивают задачу на последовательные этапы перед тем, как выдать ответ. Их всё чаще применяют в системах, требующих сложного многоступенчатого анализа.

При работе с неполной или противоречивой информацией такие модели начинают излишне размышлять — генерировать слишком длинные цепочки рассуждений. Это увеличивает время обработки и расход вычислительных мощностей. В автоматических системах это открывает путь для DoS-атак.

Учёные создали метод, намеренно провоцирующий такое поведение. Генетический алгоритм меняет условия задач, убирает важные предпосылки и добавляет лишние. Затем он отбирает варианты, вызывающие максимально длинный ответ.

На тестовом наборе MATH длина рассуждений увеличилась в 26,1 раза. Метод превзошёл существующие способы подобного воздействия. Уязвимыми оказались DeepSeek-R1, Qwen3-Thinking, GPT-o3 и Gemini 2.5 Flash.

Авторы также обнаружили, что запросы, созданные для одной небольшой модели, эффективны и против других систем, включая крупные коммерческие проекты. Это позволяет готовить атаки на закрытые сервисы без больших затрат.

«Наша цель — не показать, что масштабные атаки возможны с минимальными затратами, а зафиксировать, что эта поверхность атаки существует», — отметил в письме исследователь Вэй Цао.

Почему это важно

Рассуждающие модели всё чаще используются в агентных ИИ-системах, включая торговых ботов, инструменты аудита смарт-контрактов и децентрализованную инфраструктуру.

В DeFi цифровые помощники на базе ИИ управляют реальными средствами без участия человека. Сбой в логике — даже намеренно вызванный — создаёт операционный риск.

Новая работа опирается на уже известную особенность таких моделей — склонность к излишним размышлениям. В феврале 2025 года группа учёных проанализировала 4018 агентных траекторий и выделила повторяющиеся паттерны:

— паралич анализа — модель продолжает размышлять вместо выполнения задачи;
— непредсказуемые действия — после ошибки пытается выполнить несколько действий одновременно;
— преждевременное завершение — прекращает выполнение задачи, не проверив результат.

Рассуждающие модели оказались более склонны к чрезмерному обдумыванию. Чем сильнее этот эффект, тем ниже результативность.

Напомним, в начале июля 2026 года аналитики предупредили, что дальнейшее развитие OpenAI и Anthropic всё сильнее зависит от доступности вычислительных мощностей, финансирования дата-центров и регуляторных решений

Обменять