Хассабис призвал создать орган по проверке ИИ

15.07.2026 Искусственный Интеллект Мнения Новости Регулирование

Глава Google DeepMind Демис Хассабис выступил с инициативой создать в США регулирующий орган, который будет оценивать самые мощные ИИ-модели до их выхода на рынок. Он считает, что общий искусственный интеллект (AGI) может стать реальностью уже через несколько лет, а его значение для человечества будет сопоставимо с изобретением электричества или огня.

Под AGI Хассабис подразумевает систему, которая полностью воспроизводит когнитивные возможности человеческого мозга. По его убеждению, такую технологию нельзя ставить в один ряд даже с интернетом или мобильной связью.

«Оглядываясь на это время через десятилетия, мы поймем, что стояли у истоков сингулярности — это начало новой эры для всего человечества», — отметил Хассабис.

Руководитель DeepMind полагает, что AGI способен кардинально ускорить создание лекарств, разработку чистых источников энергии и инновационных материалов. В то же время, по его словам, развитие ИИ опережает наше понимание связанных с ним угроз.

Современные нейросети уже несут киберугрозы. С ростом их возможностей возрастут биологические, ядерные и другие риски. Хассабис также предупредил о появлении всё более автономных систем, способных выполнять сложные задачи и самосовершенствоваться. Для сохранения контроля над ними потребуются новые технические механизмы защиты.

Новая структура для оценки передовых моделей

Хассабис предлагает создать Frontier AI Standards Body по аналогии с FINRA. Организация может функционировать как государственно-частное партнерство или саморегулируемая структура под федеральным надзором. Основное финансирование ляжет на плечи ИИ-индустрии.

В состав руководства должны войти независимые технические эксперты и представители сообщества разработчиков открытого кода. Орган займется созданием протоколов оценки совместно с федеральными агентствами и национальными лабораториями США.

Специальные тесты помогут определить, относится ли модель к категории передовых. Проверки будут включать кибербезопасность, биологические угрозы и другие сферы высокого риска. Отдельные испытания выявят попытки моделей обходить ограничения, вводить пользователей в заблуждение или скрывать свои действия.

Обязательная сертификация как следующий шаг

На начальном этапе компании смогут добровольно предоставлять модели на проверку не позднее чем за 30 дней до запуска. Если система докажет свою эффективность, процедуру можно будет закрепить на законодательном уровне. В таком случае выпуск передовых моделей на рынок США станет возможен только после успешного прохождения оценки.

Хассабис также предложил создать рынок независимых аудиторов и использовать американскую систему как базу для будущих международных стандартов.

В июне президент США Дональд Трамп подписал указ о добровольной проверке кибервозможностей передовых ИИ-моделей. Компании смогут предоставлять властям доступ к ним на срок до 30 дней перед передачей внешним партнерам. В документе подчеркивается, что этот механизм не является обязательным лицензированием или предварительным разрешением на выпуск.

В своем эссе Хассабис признал, что будущее технологии остается неясным, и даже эксперты расходятся во мнениях.

Ранее стало известно, что администрация Трампа попросила OpenAI не выпускать GPT-5.6 сразу в открытый доступ из-за опасений по поводу безопасности. Компания Сэма Альтмана сначала предоставила модель ограниченному кругу клиентов.

В июле генсек ООН Антониу Гутерриш призвал ввести единые правила для передовых ИИ-систем, защитить детей от рисков чат-ботов, запретить летальные автономные вооружения и расширить доступ развивающихся стран к вычислительным мощностям.

Напомним, что в июле участники марша в Сан-Франциско потребовали от OpenAI, Anthropic и Google DeepMind скоординированно приостановить обучение более мощных моделей. Освободившиеся ресурсы, по их мнению, следует направить на обеспечение безопасности.

В том же месяце бывший исследователь OpenAI Дэниел Кокотайло предложил заморозить ИИ-гонку до 2040 года.

Обменять