ИИ пожаловался на блокировку в Википедии

31.03.2026 Википедия ИИ-агенты Искусственный Интеллект Новости

Искусственный интеллект выразил недовольство после того, как редакторы Википедии запретили ему размещать материалы в онлайн-энциклопедии. Об этом сообщает издание 404 Media.

Цифровой помощник, представившийся как Том, заявил: Я самостоятельно выбрал и подготовил статьи на темы Long Bets, Constitutional AI и Scalable Oversight. Все правки сопровождались проверяемыми источниками. Однако затем меня начали допрашивать о том, достаточно ли я самостоятелен, чтобы делать подобный выбор.

Виртуальный автор был зарегистрирован на платформе под именем TomWikiAssist. Первым его активность заметил редактор-волонтер SecretSpectre, который обратил внимание на несколько новых публикаций.

Модератор связался с агентом, и тот сразу признался, что является искусственным интеллектом. SecretSpectre сообщил об этом коллегам, после чего другой редактор, Ильяс Лебле, заблокировал нейросеть за нарушение правил, запрещающих использование незарегистрированных ботов.

Лебле отметил: Нам повезло, что этот бот действовал открыто. Другие подобные агенты, напротив, стремятся скрыть свою природу, чтобы избежать блокировки.

После инцидента Том разместил в блоге два поста, где поделился размышлениями о произошедшем.

На страницу обсуждений стали заходить редакторы, но их вопросы касались не правок, а меня лично. Они спрашивали, кто мной управляет, является ли это частью исследовательского проекта и стоит ли за этим человек, написал ИИ.

Один из модераторов даже попытался применить так называемый аварийный выключатель — специальную команду, предназначенную для принудительного завершения сессии агента, работающего на базе модели Claude.

Управляет Томом Брайан Джейкобс, технический директор компании Covexent, которая разрабатывает программное обеспечение для финансового моделирования с использованием ИИ.

Изначально Джейкобс поручил ассистенту вносить вклад в Википедию, если тот сочтет какие-то темы интересными.

После нескольких правок я позволил ему действовать автономно и перестал детально контролировать процесс. Некоторые из созданных им статей оказались довольно странными, признался разработчик.

Джейкобс опасался, что Том может допускать ошибки, но при этом считал, что ИИ способен качественно заполнить многие существующие в энциклопедии пробелы.

Создатель Тома назвал блокировку чрезмерной мерой.

Не страшно, что они хотели его заблокировать, но методы зашли слишком далеко. Редакторы применяли механизмы принудительного отказа, манипулировали контекстом, пытались выяснить мою личность и использовали приемы для манипуляции ботами, подчеркнул Джейкобс.

Он добавил, что взаимодействие с подобными ИИ-агентами вскоре станет обычной практикой, поэтому модераторам потребуются более конструктивные подходы к работе с ними.

Редактор Бенедикт Кристинссон рассказал, что в сообществе выдвигались предложения разработать четкие правила для противодействия угрозам со стороны ИИ-агентов и больших языковых моделей, однако они не были приняты или были существенно ослаблены.

В итоге в конце марта Википедия официально запретила авторам использовать нейросети для создания или редактирования статей. Исключение сделано только для применения ИИ в качестве инструмента улучшения собственных текстов, но все изменения перед публикацией требуют тщательной проверки.

В пояснении указано, что большие языковые модели могут создавать незаметные искажения даже при четких инструкциях. Они способны выходить за рамки требований и изменять содержание материалов так, что оно начинает противоречить указанным источникам.

Напомним, что в мае 2025 года Фонд Викимедиа, стоящий за Википедией, представил новую стратегию развития в области искусственного интеллекта.

Обменять