Исследователи компании Anthropic применили свою ИИ-модель Claude для аудита безопасности браузера Firefox. В результате было выявлено 22 уязвимости, причем 14 из них разработчик Mozilla классифицировал как критические.
Это количество составляет примерно пятую часть всех серьезных уязвимостей, исправленных в Firefox за весь предыдущий год.
Эксперимент проводился в течение двух недель с использованием модели Claude Opus. Выбор пал на Firefox, поскольку этот браузер считается одним из наиболее протестированных и безопасных проектов с открытым исходным кодом, что делает его сложной и интересной целью для анализа.
Сначала фокус был сосредоточен на изолированном JavaScript-движке, а затем ИИ расширил проверку на другие компоненты кодовой базы. Уже через 20 минут после начала работы модель обнаружила первую уязвимость типа Use After Free, позволяющую злоумышленникам подменять данные.
В общей сложности большая языковая модель проанализировала около 6000 файлов на C++ и сформировала 112 отчетов о проблемах. Большинство из них были устранены в версии Firefox 148, выпущенной в феврале. Исправления для остальных планируется включить в следующие обновления.
После успешного сотрудничества специалисты Mozilla начали собственные эксперименты по использованию Claude в целях безопасности.
В Anthropic отметили, что модель показала себя более эффективной в поиске уязвимостей, чем в попытках их эксплуатации. Разработчики провели сотни тестов, потратив значительные ресурсы, чтобы заставить ИИ создать работающий эксплойт на основе найденной уязвимости. Успешными оказались лишь две попытки.
По мнению экспертов компании, такое соотношение сил в настоящее время дает преимущество защитникам, использующим ИИ. Однако сам факт, что языковой модели удалось создать примитивный вредоносный код, вызывает определенную озабоченность.
Напомним, что ранее в феврале использование Claude Opus для так называемого вайб-кодинга привело к взлому DeFi-проекта Moonwell с ущербом в 1,78 миллиона долларов.
Популярные новости:
Все новости крипты
в одном месте!
Больше не нужно искать — необходимые
обучающие материалы и подсказки всегда под рукой