Китайские компании, занимающиеся разработкойтехнологий искусственного интеллекта, продолжают всё активнее конкурировать с американскими технологическими гигантами. Очередным подтверждением этого стала новая модель Kimi k1.5 от Moonshot AI, продемонстрировавшая результаты лучше в решении сложных зада, чем OpenAI o1.
Заинтересованные пользователи уже могут опробовать её в работе — ИИ-модель умеет взаимодействовать с текстами, программным кодом и изображениями. Она анализирует диаграммы, способна объяснять сложные научные концепции, например, квантовую физику. По мнению специалистов, Kimi k1.5 стала первым реальным серьёзным конкурентом OpenAI o1.
Одним из преимуществ ИИ-модели является способность обрабатывать до 128 тыс. токенов в одном контекстном окне. Это эквивалентно объёму крупного литературного произведения — практически весь роман «Война и мир» мог бы поместиться в её памяти. Kimi k1.5 демонстрирует навыки, приближённые к человеческому мышлению. В частности, она не только решает математические задачи, но и выстраивает логические цепочки, планируя и корректируя свои действия.
Компания Moonshot AI представила две версии модели: long-CoT для развёрнутого анализа и short-CoT для лаконичных ответов. Оба варианта продемонстрировали отличные результаты в тестах, сопоставимые или превосходящие возможности моделей GPT-4o и Claude 3.5 Sonnet.
При этом версия long-CoT превзошла OpenAI o1 в некоторых тестах, а short-CoT показала более высокие показатели по сравнению с Claude 3.5 Sonnet. Разработчики добились этого за счёт усовершенствования методов обучения и новых подходов к обработке информации.
Вместо традиционного алгоритма Монте-Карло специалисты китайской фирмы Moonshot AI применили более простую схему обучения с подкреплением. Такой подход позволил модели гибко адаптироваться к решению задач и эффективнее находить оптимальные ответы. Дополнительно были введены штрафы за чрезмерно длинные ответы, чтобы сократить лишние вычисления и рационально расходовать ресурсы.
Разработчики также использовали техники слияния моделей и метод Shortest Rejection Sampling, что помогло повысить точность и краткость ответов. Эксперты отмечают, что увеличение контекста до 128 тыс. токенов положительно сказалось на качестве рассуждений, позволив модели справляться с более сложными задачами.
Высокие результаты Kimi k1.5 заметны и в мультимодальных тестах. Например, в MathVista её точность достигла 74,9%. Возможность анализировать не только текст, но и изображения делает модель особенно полезной в геометрии и программировании, где требуется работа с чертежами, таблицами и диаграммами. По этим показателям Kimi k1.5 опередила OpenAI o1.
На данный момент модель доступна бесплатно на платформе Kimi.ai. Она функционирует на английском языке, но команда разработчиков продолжает работать над расширением языковой поддержки.
Запуск Kimi k1.5 вызвал большой интерес не только среди специалистов, но и среди инвесторов. В 2024 году стартапу Moonshot AI удалось привлечь свыше $1 млрд в рамках очередного инвестиционного раунда, а к августу егорыночная стоимость достигла $3,3 млрд.
Ещё по теме: