
Компания OpenAI приступила к глобальному внедрению системы автоматического определения возраста пользователей в ChatGPT. Новая функция призвана выявлять аккаунты, которые, вероятно, принадлежат несовершеннолетним, чтобы применять к ним специальные защитные меры и адаптированный интерфейс.
Если алгоритм по ошибке отнесёт взрослого пользователя к подростковой категории, эту ситуацию можно исправить. Для этого потребуется подтвердить свой возраст через настройки аккаунта, используя сервис верификации Persona.
Основная цель нововведения — минимизировать взаимодействие подростков с контентом, который может быть для них чувствительным или потенциально опасным. Как отмечают в компании, этот подход также позволяет предоставлять взрослым пользователям больше свободы в использовании инструментов в рамках установленных границ безопасности.
Принцип работы системы
Для оценки возраста искусственный интеллект анализирует различные поведенческие паттерны, включая, например, активность в чате в определённое время суток. В случаях, когда точный возраст установить не удаётся, система по умолчанию выбирает более строгий, безопасный сценарий.
Активированные для подросткового аккаунта дополнительные ограничения можно увидеть в настройках. Они блокируют показ материалов, содержащих:
* сцены насилия и жестокости;
* вирусные челленджи, поощряющие рискованное или вредное поведение;
* ролевые игры сексуального или насильственного характера;
* изображения, демонстрирующие самоповреждения;
* пропаганду нереалистичных стандартов красоты, экстремальных диет и критику внешности.
Разработка инициативы опирается на научные исследования в области детской психологии и учитывает особенности подросткового восприятия.
Параллельно с системой определения возраста в ChatGPT продолжает работать функция родительского контроля. Она позволяет, например, устанавливать ограничения по времени использования или получать уведомления, если в диалогах обнаруживаются признаки серьёзного эмоционального distress.
Напомним, что о разработке технологии для оценки возраста OpenAI впервые объявила в сентябре. После её полноценного внедрения компания планирует рассмотреть возможность добавления в ChatGPT контента для взрослой аудитории.
Популярные новости:
Больше не нужно искать — необходимые
обучающие материалы и подсказки всегда под рукой