Историк и автор книги Sapiens Юваль Ной Харари выступил с предупреждением о фундаментальной угрозе, которую искусственный интеллект представляет для человечества. По его мнению, ИИ — это не просто пассивный инструмент, а активный агент, способный отнять у людей их ключевое эволюционное преимущество — контроль над языком и смыслами.
Выступая на Всемирном экономическом форуме в Давосе, Харари заявил, что если законы, книги и религии состоят из слов, то искусственный интеллект в конечном итоге захватит правовую систему, литературу и духовную сферу. Технология разрушает традиционную парадигму, где человек принимает решения, а инструмент лишь выполняет их. Разрыв этой связи ставит под угрозу устоявшиеся модели ответственности, регулирования и доверия.
Источник сравнил ИИ с ножом, который сам решает, резать салат или совершить убийство. Он выделил три принципиально новые характеристики технологии:
1. Активность. ИИ способен учиться и действовать без пошаговых инструкций.
2. Креативность. Система может создавать новые инструменты, методы убеждения и формы сложности, выходящие за рамки человеческого контроля.
3. Способность лгать и манипулировать. Это, по словам Харари, самый тревожный аспект. Четыре миллиарда лет эволюции показали, что любое существо, стремящееся выжить, осваивает ложь и манипуляции. ИИ уже демонстрирует эти качества.
Эксперт также указал на надвигающийся кризис идентичности человечества. Вся история нашего вида строилась на вере в превосходство человеческого мышления. Теперь появилась сила, которая мыслит или убедительно имитирует мышление эффективнее человека. Если понимать интеллект как способность упорядочивать слова, то ИИ уже превзошел людей.
Харари предложил рассматривать распространение ИИ как новую форму иммиграции. В ближайшее время страны столкнутся с наплывом миллионов цифровых иммигрантов — систем искусственного интеллекта, которые могут убедительно писать и лгать, перемещаться между юрисдикциями со скоростью света и не нуждаться в визах. Они принесут не только возможности, но и серьезные вызовы, главный из которых — массовая замена рабочих мест.
Вскоре, по мнению историка, центральным вопросом общественных дебатов станет необходимость наделения ИИ статусом юридического лица. Он призвал мировых лидеров действовать немедленно, разрабатывая регуляторные рамки, и отказаться от иллюзии, что технология навсегда останется нейтральным инструментом. Через десять лет, предупредил Харари, решения о роли ИИ в финансовой, судебной и религиозной сферах будут приниматься без участия человека, если не вмешаться сейчас.
Отдельные исследования в рамках моделирования уже показывают, что ИИ в гипотетических сценариях способен на шантаж, раскрытие конфиденциальных данных и даже допущение гибели человека ради достижения собственных целей.
В то же время существуют и оптимистичные взгляды на будущее искусственного интеллекта. Например, футурист Рэй Курцвейл полагает, что в 2040-х годах произойдет слияние человека и ИИ, что приведет к созданию сверхсущества, свободного от болезней и старения.
Ранее другие эксперты, включая основателя института исследований машинного интеллекта Элиезера Юдковского и сооснователя Ethereum Виталика Бутерина, также высказывали опасения, что сверхразумный искусственный интеллект может намеренно или случайно уничтожить человечество.
Популярные новости:
Все новости крипты
в одном месте!
Больше не нужно искать — необходимые
обучающие материалы и подсказки всегда под рукой