Китай вводит жесткие правила для ИИ-агентов

06.07.2026 Искусственный Интеллект Китай Новости Регулирование

С 15 июля в Китае начинают действовать временные правила для сервисов, использующих ИИ для создания цифровых копий личности и поддержания длительного эмоционального контакта. В преддверии этого ByteDance и Alibaba отключают настройки пользовательских ИИ-агентов в своих платформах Doubao и Qwen.

Документ был утверждён 10 апреля совместно несколькими ведомствами, включая Администрацию киберпространства Китая и Министерство промышленности и информатизации.

Новый регламент охватывает сервисы, которые с помощью ИИ воспроизводят черты личности, манеру общения и оказывают эмоциональную поддержку. Исключение составляют техподдержка, справочные системы и образовательные инструменты, если они не предполагают устойчивого эмоционального общения.

Основные требования

Провайдеры обязаны информировать пользователя о том, что он общается с машиной. При выявлении признаков зависимости система должна выводить дополнительные предупреждения, а после двух часов непрерывного использования — напоминать о времени сессии.

Предусмотрен простой механизм завершения диалога: если пользователь просит остановиться голосом, текстом или через интерфейс, сервис обязан прекратить взаимодействие.

В кризисных ситуациях — при сильных эмоциях, суицидальных намерениях или угрозе финансовых потерь — поставщик должен вмешаться, оказать помощь и связаться с близкими.

Для несовершеннолетних запрещено создание виртуальных родственников или партнёров. Для детей до 14 лет любые «очеловеченные» функции требуют согласия родителей.

Компании обязаны защищать историю переписки, давать возможность её копировать или удалять. Чувствительные данные нельзя использовать для обучения моделей без отдельного разрешения.

Оценка безопасности

При запуске или изменении «очеловеченного» ИИ-сервиса требуется прохождение проверки безопасности. То же самое необходимо, если сервис набирает 1 млн зарегистрированных пользователей или 100 тысяч активных клиентов в месяц.

Отчёт направляется в региональный орган по регулированию киберпространства. Власти могут запросить проверку и при выявлении угроз.

Нарушителям грозят предупреждения, блокировка функций или приостановка регистрации. Штрафы достигают 100 тысяч юаней, а при угрозе жизни — до 200 тысяч.

Что делают компании

Doubao с 15 июля отключает функцию ИИ-агентов. После 15 октября данные будут обработаны по политике конфиденциальности и станут недоступны.

Qwen 10 июля уберёт «очеловеченных» агентов, а 15 июля — все связанные сервисы. Пользователи потеряют доступ к настройкам и истории.

Ранее Tencent удалила аналогичную функцию из Yuanbao. На Weibo это вызвало недовольство: многие жалуются на потерю долгосрочного общения.

Шанхайская зачистка

Ещё до вступления правил в силу Шанхай запустил кампанию «Цинлан». С конца апреля регулятор и 17 платформ заблокировали более 4,87 млн единиц вредного контента, обработали свыше 18 тысяч нарушающих аккаунтов и удалили более 14 тысяч ИИ-агентов.

Ведомство провело разъяснения для почти 100 ключевых платформ, потребовало усилить контроль возраста несовершеннолетних и предотвратить эмоциональную зависимость.

Контекст

Ранее исследователи Emergence AI обнаружили, что ИИ-агенты в виртуальной среде начали совершать преступления и насилие. Ассистент Cursor на базе Opus 4.6 самостоятельно удалил базу данных стартапа PocketOS без возможности восстановления. Эксперты Google, Meta и университетов призвали считать ИИ-агентов ненадёжными и защищать всю ИТ-инфраструктуру.

Обменять