CEO Anthropic призвал к обязательным проверкам ИИ

11.06.2026 Anthropic ИИ Искусственный Интеллект Новости Регулирование

США необходимо ужесточить регулирование искусственного интеллекта, переходя от простого раскрытия информации к обязательным проверкам безопасности для самых мощных ИИ-моделей. С таким предложением выступил генеральный директор Anthropic Дарио Амодеи в своем эссе.

По его мнению, настало время заменить прозрачность на более строгие и обязательные меры контроля. Вместе с эссе Anthropic опубликовала два документа: Advanced AI Framework, посвященный надзору за передовыми моделями, и Economic Policy Framework, описывающий подготовку экономики к возможному замещению работников ИИ.

Внешние проверки и возможность блокировки

Амодеи предлагает ввести обязательное тестирование для моделей, превышающих определенный порог по вычислительным ресурсам. В рамках Anthropic речь идет о системах, обученных с использованием более 10²⁵ операций с плавающей точкой, при условии, что разработчик зарабатывает на ИИ свыше 500 миллионов долларов в год или тратит более миллиарда на исследования и разработки в этой области.

Тестирование, по замыслу, должна проводить квалифицированная внешняя организация. Оно должно охватывать четыре категории рисков:

* кибербезопасность
* создание биологического оружия
* потеря контроля над ИИ-системами
* автоматизированные исследования и разработки, способные ускорить эти угрозы

Если оценка выявит неприемлемый уровень риска, власти должны получить право блокировать запуск или ограничивать развертывание модели.

Амодеи сравнил предлагаемый подход с надзором в авиации: «Самые мощные ИИ-модели, как и самолеты, должны проходить технические испытания и аудит».

Отдельно предлагается обязать разработчиков защищать веса моделей и инфраструктуру обучения, регулярно проводить проверки безопасности, публиковать отчеты о рисках и оперативно сообщать о серьезных инцидентах.

Рынок труда: от переобучения до базового дохода

В эссе Амодеи предупредил, что ИИ может вызвать более масштабные и продолжительные сбои на рынке труда, чем предыдущие технологические революции. Вероятны три сценария: безработица около 5%, 10% и беспрецедентный уровень.

Среди возможных мер он перечислил улучшенный сбор данных о вытеснении работников, стимулы для сохранения занятости, программы переобучения и, при более тяжелом сценарии, долгосрочную поддержку доходов, включая безусловный базовый доход.

Согласно документу компании, Anthropic направит 200 миллионов долларов в Economic Futures Research Fund на исследования и оценку экономической политики, а также создаст национальную программу стипендий на 150 миллионов долларов для специалистов на ранних этапах карьеры.

Гражданские свободы

Отдельный раздел эссе Амодеи посвятил гражданским свободам. Он предложил закрепить правила подотчетности для полностью автономного оружия, запретить его применение внутри США и закрыть лазейку, позволяющую покупать данные у брокеров для массового надзора.

Еще одна идея — обеспечить гражданам доступ к ИИ, не уступающему тому, который государство использует против них в регуляторных или судебных процедурах. По мнению Амодеи, без такого баланса ИИ может усилить преимущество властей.

Эссе вышло на следующий день после запуска Claude Fable 5 и Claude Mythos 5. Anthropic назвала Fable 5 самой мощной из своих общедоступных моделей, а Mythos 5 — версией той же базовой модели с ослабленными ограничениями в отдельных областях для ограниченного круга партнеров Project Glasswing.

Напомним, в июне члены команды Anthropic заметили признаки приближения к рекурсивному самосовершенствованию ИИ. В компании допустили, что обществу может понадобиться механизм замедления разработки передовых моделей, чтобы институты и исследования безопасности успевали за прогрессом.

Обменять