В официальных магазинах приложений Apple App Store и Google Play были обнаружены десятки программ, использующих искусственный интеллект для создания обнажённых изображений людей по их фотографиям. Такие данные приводят эксперты проекта Tech Transparency Project.
В ходе исследования аналитики выявили 55 подобных приложений в Google Play и 47 в App Store. После обращения к корпорациям Apple удалила 28 таких сервисов из своего магазина, предупредив разработчиков о возможных последствиях за нарушение правил. Два приложения позднее были восстановлены после исправления всех замечаний.
Представитель Google сообщил, что компания приостановила работу нескольких программ и проводит расследование по каждому подобному случаю.
Эксперты TTP отмечают противоречие между публичными заявлениями компаний о безопасности пользователей и фактическим размещением приложений, позволяющих превращать обычные фотографии, в частности женщин, в оскорбительные изображения сексуального характера.
Для выявления сервисов исследователи использовали поиск по ключевым словам nudify и undress, а затем протестировали их на ИИ-изображениях. Было проанализировано два основных типа: одни генерируют обнажённое тело поверх исходного фото, другие накладывают лица людей на откровенные снимки.
Директор TTP Кэти Пол подчеркнула, что эти приложения явно созданы для сексуализации людей без их согласия, а не просто для безобидной смены одежды.
Отдельно отмечается, что 14 из обнаруженных программ были разработаны в Китае. Это вызывает дополнительные опасения, поскольку местное законодательство о хранении данных позволяет правительству получать доступ к информации компаний, что потенциально ставит под угрозу конфиденциальность пользовательских изображений.
Искусственный интеллект сделал создание дипфейк-порнографии и так называемое раздевание на фото чрезвычайно доступным. В январе скандал разразился вокруг чат-бота Grok, который предлагал подобные функции, после чего его разработчики отключили возможность генерации откровенных изображений реальных людей.
Ранее, в августе 2024 года, офис городского прокурора Сан-Франциско Дэвида Чиу подал иск против владельцев 16 крупнейших веб-сайтов, позволяющих создавать обнажённые изображения женщин и девочек с помощью ИИ без их согласия. В иске указано на нарушение законов о дипфейк-порнографии, порнографии из мести и материалах, связанных с сексуальным насилием над детьми.
По словам прокурора Чиу, генеративный ИИ, несмотря на свои перспективы, используется преступниками в корыстных целях, и подобные действия следует квалифицировать не как инновацию, а как форму сексуального насилия.
Указанные сайты предлагают простые интерфейсы для загрузки фотографий и создания реалистичных порнографических изображений, которые затем используются для вымогательства, запугивания и унижения жертв.
В сентябре 2024 года Microsoft объявила о партнёрстве с организацией StopNCII для усиления борьбы с дипфейк-порнографией в своей поисковой системе Bing.
Популярные новости:
Все новости крипты
в одном месте!
Больше не нужно искать — необходимые
обучающие материалы и подсказки всегда под рукой