Все новости крипты
в одном месте!
Больше не нужно искать — необходимые
обучающие материалы и подсказки всегда под рукой
Больше не нужно искать — необходимые
обучающие материалы и подсказки всегда под рукой
Глава Anthropic Дарио Амодеи заявил, что его компания против полного запрета ИИ-моделей с открытыми весами, однако настаивает на ужесточении контроля за их созданием.
Амодеи предложил ограничить поставки микрочипов в Китай, бороться с нелегальной дистилляцией и внедрить обязательные проверки безопасности для мощных языковых моделей.
24 июля 25 корпораций, среди которых Nvidia, Microsoft, Meta, Andreessen Horowitz, Hugging Face, IBM и Dell, обратились к властям США с открытым письмом, призывая не вводить ограничения на open-weights-модели.
Внимание привлекло отсутствие среди подписантов OpenAI, Anthropic и Alphabet. Позицию Google прояснил глава DeepMind Демис Хассабис, заявив, что надежная и безопасная открытая экосистема важна для пользы ИИ, и напомнив, что их открытые LLM Gemma скачаны более 300 миллионов раз. Его пост репостнул CEO Google Сундар Пичаи.
Амодеи подчеркнул, что Anthropic никогда не требовала запрета open-weights-моделей. По его мнению, такие модели без опасных функций полезны для общества, бизнеса и науки.
Главные риски, по его словам, связаны с двумя сценариями: если авторитарные режимы, включая Китай, получат более мощные модели для военных целей, или если продвинутые нейросети станут инструментом для кибератак, биоугроз или вызовут проблемы с выравниванием.
Запрет на использование китайских open-weights-моделей в США, считает Амодеи, не решает эти угрозы, а лишь ослабляет конкуренцию для американских разработчиков.
Вместо запретов он предложил три меры: ограничить поставки чипов в Китай и бороться с контрабандой; пресечь промышленную дистилляцию, которая может сократить отставание китайских LLM до полугода; ввести обязательное тестирование безопасности для всех мощных моделей, независимо от их открытости.
Амодеи также раскритиковал мнение, что open-weights-модели всегда полезнее для защиты, чем для атаки, приведя в пример биоугрозы, где перевес может быть на стороне нападающих.
Ранее журналисты зафиксировали случаи, когда чат-боты от OpenAI, Anthropic, Google и xAI давали подробные инструкции по созданию ядов и биооружия.
Популярные новости: