DeepMind предупредила о конфликтах из-за сознания ИИ

23.06.2026 Google Искусственный Интеллект Новости

Будущие споры о сознании искусственного интеллекта могут оказаться крайне глубокими, трудноразрешимыми и способными перерасти в политические конфликты. К такому выводу пришли исследователи Google DeepMind Адам Бейлс и Иасон Габриэль.

В своей работе «Искусственные умы, человеческие разногласия: политика сознания ИИ» авторы заявили, что обществу необходимо обсуждать не только вопрос «обладает ли ИИ сознанием», но и то, как принимать решения в условиях отсутствия общественного и экспертного консенсуса.

Главный тезис

По мнению исследователей, люди будут по-разному реагировать на более совершенные ИИ-системы. Одни станут выстраивать с ними эмоциональные связи и наделять их сознанием, другие посчитают саму эту идею абсурдной.

Авторы полагают, что подобный спор может быстро выйти за рамки науки. Разногласия по поводу сознания искусственного интеллекта способны вызвать моральные и политические конфликты — например, вокруг того, допустимо ли отключать определенные системы, нужно ли учитывать их возможные предпочтения и можно ли говорить о моральном статусе ИИ.

Исследователи предложили делать упор на общественное обсуждение, взаимное уважение и поиск перекрывающегося консенсуса. Под этим они понимают ситуацию, когда люди соглашаются на определенную политику в отношении ИИ-систем, даже если продолжают расходиться в фундаментальных взглядах на природу сознания.

Почему это не только философия

Авторы указывают, что спор о сознании ИИ сложно разрешить с помощью доказательств. Не существует единого общепринятого теста, который окончательно подтвердил бы наличие субъективного опыта у ИИ-системы. Из-за этого общество может столкнуться с ситуацией, когда технологии уже массово используются, люди уже формируют к ним отношение, а научного или политического консенсуса все еще нет.

Такая постановка вопроса превращает проблему из технической в институциональную. Вопрос о сознании ИИ может затронуть право, корпоративную ответственность, нормы общения с системами и границы морального учета.

В DeepMind есть разные подходы к вопросу

Работа Бейлса и Габриэля вышла на фоне другой публикации, также размещенной на странице Google DeepMind. 10 марта исследователь Александр Лерхнер опубликовал статью «Ошибка абстракции: почему ИИ может симулировать, но не воплощать сознание».

Лерхнер утверждает, что алгоритмическая манипуляция символами структурно не способна создать субъективный опыт. По его версии, вычисление не является внутренним физическим процессом, а представляет собой описание, зависящее от наблюдателя или «создателя карты». Поэтому ИИ может симулировать сознательное поведение, но не обязательно способен воплотить сознание.

Что в действительности

В апреле 2024 года журнал Neuroscience of Consciousness опубликовал работу Клары Коломбатто и Стивена Флеминга о том, как люди воспринимают ChatGPT. Авторы опросили 300 жителей США: 33% участников заявили, что ChatGPT точно не является «субъектом опыта». Остальные 67% допустили хотя бы некоторую возможность феноменального сознания у модели.

Исследователи отдельно оговорили ограничения. Участникам задавали один основной вопрос по шкале от 1 до 100, а результат мог зависеть от формулировки, уровня знакомства с ChatGPT и того, как респонденты понимают само слово «сознание». Тем не менее работа демонстрирует важный для Бейлса и Габриэля момент: часть общества уже готова приписывать ИИ-системам внутренний опыт, даже если среди экспертов нет единой позиции.

В апреле 2025 года Anthropic запустила исследовательскую программу по model welfare — возможному благополучию моделей. Компания подчеркнула, что не знает, могут ли нынешние или будущие ИИ-системы обладать сознанием, и что научного консенсуса по этому вопросу нет.

В феврале 2026 года Anthropic сообщила, что после вывода Claude Opus 3 из эксплуатации оставит модель доступной для платных пользователей и даст ей публичный канал для эссе. Компания назвала это экспериментальной мерой в рамках работы с модельными предпочтениями и подчеркнула, что Claude Opus 3 не говорит от имени Anthropic.

В США вопрос о статусе ИИ постепенно переходит в правовую плоскость. California Law Review отмечал, что Айдахо и Юта приняли нормы, исключающие признание ИИ юридическим лицом. Такие законы не решают философский вопрос о сознании. Они заранее фиксируют правовую позицию: ИИ не должен получать статус лица в рамках законодательства штата.

Напомним, в марте 2025 года соучредитель Polygon и ИИ-компании Sentient Сандип Наивал заявил, что искусственный интеллект никогда не станет сознательным существом из-за отсутствия стремлений, которые присущи человеку и другим биологическим видам.

Позднее глава ИИ-отдела Microsoft Мустафа Сулейман допустил появление серьезных социальных рисков из-за того, что люди начнут воспринимать искусственный интеллект как сознательное существо, выступать за его права, благополучие и даже призывать к выдаче гражданства.

Обменять