Хассабис предложил создать орган по стандартам ИИ

15.07.2026 Искусственный Интеллект Мнения Новости Регулирование

Глава Google DeepMind Демис Хассабис выступил с инициативой создать в США специальный орган по стандартизации, который будет проверять самые мощные ИИ-модели до их выхода на рынок. По его прогнозам, общий искусственный интеллект (AGI) может стать реальностью «в течение нескольких лет», а его воздействие на общество он сравнил с открытием электричества или освоением огня.

Под AGI Хассабис подразумевает систему, наделенную полным спектром когнитивных способностей, присущих человеку. Он убежден, что такую технологию некорректно сопоставлять даже с интернетом или мобильной связью.

«Оглядываясь на этот период спустя десятилетия, мы, вероятно, осознаем, что стояли у порога сингулярности — это начало принципиально новой эры для всего человечества», — заявил Хассабис.

По его мнению, AGI способен кардинально ускорить создание новых лекарств, разработку экологически чистых источников энергии и инновационных материалов. Однако он подчеркнул, что развитие ИИ опережает наше понимание связанных с ним угроз.

Современные передовые модели уже представляют опасность в сфере кибербезопасности. С ростом их мощности могут активизироваться биологические, ядерные и иные риски. Хассабис также предупредил о появлении более автономных систем, способных выполнять сложные цепочки действий и самосовершенствоваться. Для сохранения контроля над ними необходимы дополнительные технические барьеры.

Новый орган определит передовые модели

Хассабис предложил учредить Frontier AI Standards Body по образу американской FINRA. Эта структура может функционировать как государственно-частное партнерство либо как саморегулируемая организация под надзором федеральных властей. Основное финансирование предполагается возложить на ИИ-индустрию.

В руководство органа планируется включить независимых технических специалистов и представителей сообщества с открытым исходным кодом. Разработка протоколов оценки будет вестись совместно с федеральными агентствами и национальными лабораториями США.

Специальные тесты призваны определить, относится ли модель к категории передовых. Проверки затронут кибербезопасность, биологические угрозы и другие сферы повышенного риска. Отдельные испытания будут нацелены на выявление попыток моделей обходить защитные механизмы, вводить пользователей в заблуждение или скрывать свои действия.

Проверку могут сделать обязательной

На начальном этапе компании смогут добровольно направлять свои передовые модели на проверку не позднее чем за 30 дней до запуска.

Если система докажет свою эффективность, процедуру можно будет закрепить законодательно. В таком случае успешное прохождение оценки станет обязательным условием для выхода модели на американский рынок. Хассабис также предложил сформировать рынок независимых аудиторов и использовать американскую модель как основу для будущих международных стандартов.

В июне президент США Дональд Трамп подписал указ о добровольной проверке кибервозможностей передовых ИИ-моделей. Компании смогут предоставлять властям доступ к ним на срок до 30 дней перед передачей внешним доверенным партнерам. В документе подчеркивается, что этот механизм не является обязательным лицензированием или предварительным разрешением на выпуск.

В своем эссе Хассабис признал, что дальнейшее развитие технологии остается неопределенным, и даже эксперты расходятся во мнениях.

Ранее СМИ сообщали, что администрация Трампа попросила OpenAI не выпускать GPT-5.6 в открытый доступ из соображений безопасности. Компания Сэма Альтмана сначала предоставила модель ограниченному кругу клиентов.

В июле генеральный секретарь ООН Антониу Гутерриш призвал установить общие правила для передовых ИИ-систем, защитить детей от рисков чат-ботов, запретить летальные автономные системы вооружений и расширить доступ развивающихся стран к вычислительным мощностям.

Напомним, в июле участники марша в Сан-Франциско потребовали от OpenAI, Anthropic и Google DeepMind скоординированно приостановить обучение более мощных моделей. Освободившиеся ресурсы они предложили направить на обеспечение безопасности.

В том же месяце бывший исследователь OpenAI Дэниел Кокотайло предложил притормозить ИИ-гонку до 2040 года.

Обменять