Китайский стартап представил ИИ-модель с 2,8 трлн параметров

17.07.2026 Искусственный Интеллект Китай Новости

Китайский стартап в сфере ИИ Moonshot AI анонсировал модель Kimi K3. Это первая в мире открытая модель класса 3T, имеющая 2,8 триллиона параметров, встроенное зрение и контекстное окно на миллион токенов. Разработчики утверждают, что в общем рейтинге она уступает лишь запатентованным решениям Claude Fable 5 и GPT 5.6 Sol.

Архитектура Kimi K3 базируется на новых решениях Kimi Delta Attention (KDA) и Attention Residuals (AttnRes). KDA повышает эффективность обработки длинных последовательностей данных, а AttnRes позволяет извлекать нужную информацию выборочно, а не со всех слоев одинаково. Это дает модели более глубокое понимание контекста и сохранение смысла даже в сложных текстах.

За разреженность вычислений отвечает фреймворк Stable LatentMoE: из 896 экспертов одновременно задействованы только 16. В сочетании с новыми данными и настройками обучения это обеспечило рост эффективности в два с половиной раза по сравнению с версией K2.

По словам создателей, на протяжении девяти из последних двенадцати месяцев модели Kimi удерживали первенство по размеру среди открытых аналогов.

Новая модель уже доступна на сайте, а также в продуктах Kimi Work, Code и через API. По умолчанию активирован максимальный режим размышления, другие режимы появятся позже. Полные веса и технический отчет будут опубликованы 27 июля.

Результаты на бенчмарках

На некоторых тестах K3 показала результаты выше, чем Fable 5 и GPT-5.6 Sol, но на других заметно отстала. Модель лидирует в тестах SWE Marathon (42 балла против 35 и 39), BrowseComp (91,2 против 88 и 90,4) и Program Bench (77,8 против 76,8 и 77,6). В тесте Terminal Bench 2.1 K3 набрала 88,3 балла, что выше показателя Fable 5 (84,6) и всего на полбалла меньше, чем у Sol (88,8).

Однако на тесте FrontierSWE K3 получила 81,2 балла против 86,6 у Fable 5, а на HLE-Full — 43,5 против 53,3. Важно отметить, что методики тестирования различались: часть моделей оценивалась через Claude Code, другая — через Codex или собственный инструмент KimiCode.

Кодинг и агентные задачи

K3 способна проводить длительные инженерные сессии с минимальным участием человека, ориентироваться в крупных репозиториях и управлять терминальными утилитами.

В тесте по оптимизации GPU-ядер модели независимо работали до 24 часов над четырьмя задачами, включая ядра AttnRes, KDA и MLA с размерностью головы 512, на оборудовании NVIDIA H200 и GPU другого производителя. K3 показала результат на уровне Fable 5 и значительно превзошла Opus 4.8, GPT-5.6 Sol и GPT-5.5. На поздних этапах разработки ранняя версия K3 самостоятельно выполняла большую часть такой оптимизации внутри команды Moonshot.

Кроме того, модель с нуля написала MiniTriton — компактный компилятор для GPU-ядер с собственным IR-слоем поверх MLIR и генерацией PTX-кода.

Проектирование чипов и разработка игр

В качестве демонстрации возможностей K3 самостоятельно спроектировала чип для нейросети на собственной архитектуре.

Автономный процесс занял 48 часов: модель использовала открытые EDA-инструменты и библиотеку Nangate 45 нм. Полученный чип занимает площадь 4 мм², работает на частоте 100 МГц и выдает более 8700 токенов в секунду в симуляции. Он включает 1,46 миллиона стандартных ячеек, 0,277 МБ SRAM и INT4 MAC-массив со встроенной деквантизацией.

K3 также объединяет 3D-рассуждение, код и зрение для создания игровых и интерактивных прототипов на основе концептов, изображений и видео.

Работа со знаниями и видео

В одном из примеров K3 воспроизвела универсальные соотношения I-Love-Q из вычислительной астрофизики. На это ушло около двух часов вместо одной-двух недель работы опытного исследователя. Модель изучила более 20 научных статей, оценила свыше 300 уравнений состояния, обнаружила несоответствия в опубликованных формулах и написала более 3000 строк кода на Python, оформив результат в интерактивный HTML-дашборд.

В другом случае K3 подготовила интерактивный отчет о 42 годах истории индустрии ASIC-чипов за 120 раундов рекурсивного самоулучшения, обработав более 11 000 страниц из 87 квартальных отчетов и 99 оригинальных PDF-файлов.

Благодаря встроенной работе с видео K3 умеет монтировать ролики. В одном примере модель создала объясняющую анимацию собственной архитектуры в стиле 3Blue1Brown, в другом — самостоятельно смонтировала тизер о своем запуске из 56 исходных клипов, включая подбор кадров, синхронизацию с музыкой и обработку звука. По оценке Moonshot, такая работа заняла бы у опытного монтажера один-два дня, а у новичка — три-пять.

Ограничения

Команда проекта отметила, что K3 чувствительна к потере истории размышлений при переключении агентной среды в середине сессии и может проявлять излишнюю инициативу в неоднозначных ситуациях. По удобству использования модель пока заметно уступает Fable 5 и GPT-5.6 Sol.

Напомним, в июле 2025 года Moonshot AI выпустила Kimi K2 — первую модель линейки с 1 триллионом параметров, которая быстро стала одной из ведущих открытых систем для агентных задач.

Обменять