OpenAI представила план защиты детей от ИИ

08.04.2026 OpenAI Искусственный Интеллект Кибербезопасность Новости

Компания OpenAI представила новую стратегию, призванную усилить защиту детей в условиях широкого внедрения технологий искусственного интеллекта и связанных с ними рисков.

Инициатива, названная «Дорожной картой безопасности», базируется на трёх основных направлениях:

— Обновление правовых норм для противодействия созданию и распространению материалов о сексуальной эксплуатации несовершеннолетних с применением ИИ.
— Повышение эффективности взаимодействия и обмена информацией между технологическими компаниями для ускорения расследований.
— Внедрение защитных механизмов непосредственно в архитектуру ИИ-систем на этапе их разработки, чтобы предотвращать злоупотребления.

В OpenAI подчеркивают, что для решения столь масштабной проблемы недостаточно отдельных мер. Представленный план объединяет юридические, операционные и технические решения, что позволит лучше выявлять угрозы, оперативнее на них реагировать и обеспечивать подотчетность, не ограничивая при этом возможности правоохранительных органов.

По мнению разработчика, такой комплексный подход поможет индустрии решать вопросы безопасности на более ранних стадиях. При создании документа были учтены мнения ведущих американских экспертов и организаций, включая Национальный центр по розыску пропавших и подвергшихся эксплуатации детей, а также представителей органов правопорядка.

В компании отмечают, что сексуальная эксплуатация детей остаётся одним из самых серьёзных вызовов цифровой эпохи, а искусственный интеллект кардинально меняет как методы совершения таких преступлений, так и подходы к борьбе с ними.

OpenAI уже предпринимает практические шаги в этом направлении. С середины прошлого года компания внедрила в свои продукты инструменты родительского контроля, которые отслеживают потенциально опасные паттерны в поведении юных пользователей. Также были ужесточены правила использования сервисов, полностью запрещающие создание и распространение контента, эксплуатирующего образы детей.

Ранее, в сентябре, Федеральная торговая комиссия США инициировала расследования в отношении семи технологических гигантов, включая OpenAI, Meta и Alphabet, чьи чат-боты активно используются несовершеннолетней аудиторией.

Обменять