Больше не нужно искать — необходимые
обучающие материалы и подсказки всегда под рукой

Специалисты Google представили новый алгоритм TurboQuant, созданный для оптимизации использования памяти в системах искусственного интеллекта. Многие сразу же сравнили эту разработку с технологией вымышленной компании Pied Piper из сериала «Кремниевая долина».
TurboQuant существенно сокращает потребность в вычислительных мощностях при работе с большими языковыми моделями и системами векторного поиска. Искусственный интеллект часто оперирует сложными многомерными массивами, которые кодируют слова или изображения. Эти данные занимают много кэш-памяти и могут тормозить процесс генерации ответов. Традиционные методы сжатия не всегда достаточно эффективны, так как сами требуют хранения дополнительной служебной информации.
Новый подход решает проблему чрезмерного расхода памяти благодаря двум основным механизмам. Первый алгоритм преобразует векторы в полярную систему координат, что позволяет сжать основной массив. Второй механизм работает как математический регулятор, используя всего один бит памяти для корректировки остаточных скрытых погрешностей.
Генеральный директор Cloudflare Мэттью Принс обратил внимание, что достижение Google перекликается с результатами китайской модели DeepSeek, которая ранее продемонстрировала высокую эффективность при ограниченных аппаратных ресурсах.
Тестирование технологии проводилось на открытых моделях, включая Llama, Gemma и Mistral. Алгоритм позволил сжать их кэш до трёх бит без потери качества выходных данных. В итоге потребление памяти сократилось не менее чем в шесть раз, а скорость вычислений на графических ускорителях H100 возросла в восемь раз.
Примечательно, что для применения этой инновации не требуется дообучать нейронные сети. Компания намерена внедрить TurboQuant в свои поисковые алгоритмы и продукты на базе ИИ, в том числе в Gemini. Публичная демонстрация проекта запланирована на крупных отраслевых конференциях ICLR и AISTATS в 2026 году.
Ранее в тот же день Google также раскрыла свои стратегические планы по внедрению постквантовой криптографии.
Популярные новости: