Новая версия LLM Nemotron 3 Super от NVIDIA с открытым исходным кодом значительно улучшена и нацелена на агентные рабочие нагрузки ИИ. Модель использует архитектуру Mamba-MoE и имеет обширное контекстное окно в 1 миллион токенов, превосходя конкурентов. — wccftech.com
Семейство LLM с открытым исходным кодом Nemotron от NVIDIA получило значительное улучшение с выходом последней версии, Nemotron 3 Super, которая теперь нацелена на агентные рабочие нагрузки ИИ благодаря своему обширному контекстному окну.
Nemotron 3 Super от NVIDIA использует Mamba-MoE с обширным контекстным окном в 1 миллион токенов
Для тех, кто не в курсе, когда речь заходит о ведущих разработчиках моделей ИИ с открытым исходным кодом, некоторые могут подумать о китайских лабораториях ИИ, таких как Kimi или Qwen, но на самом деле лидирует в этом плане линейка Nemotron от NVIDIA. Поскольку ИИ распределен по «пятислойному» пирогу, NVIDIA не только доминирует в инфраструктуре и чипах, но и является одной из немногих западных компаний, которая вложила значительные средства в модели с открытым исходным кодом. С учетом этого NVIDIA представила Nemotron 3 Super, основная идея которого заключается в масштабируемом запуске агентных приложений ИИ, что делает его идеальным для таких агентов, как OpenClaw.
Одним из выдающихся аспектов Nemotron 3 Super является гибридная архитектура Mamba-MoE от NVIDIA. По сравнению с традиционными моделями MoE, Mamba представляет собой действительно впечатляющую реализацию. По сути, NVIDIA изменила способ интерпретации потока данных LLM. Благодаря новой архитектуре Mamba полагается на модель пространства состояний (State Space Model, SSM) для линейного считывания данных, предотвращая накопление большого контекстного окна и включение нерелевантной информации. Mamba-MoE позволяет Nemotron 3 Super поддерживать оптимальное контекстное окно для рабочих нагрузок пользователей, обеспечивая наилучшие агентные ответы.
Гибридная архитектура: Слои Mamba обеспечивают 4-кратное повышение эффективности использования памяти и вычислений, в то время как слои трансформера способствуют продвинутому рассуждению.
MoE: Только 12 миллиардов из 120 миллиардов параметров активны при инференсе.
Latent MoE: Новая техника, которая повышает точность, активируя четырех экспертов-специалистов по цене одного для генерации следующего токена при инференсе.
Многотокеновая предсказание: Предсказывает несколько будущих слов одновременно, что приводит к 3-кратному ускорению инференса.
– NVIDIA
Слои Mamba обеспечивают 4-кратное повышение эффективности использования памяти и продвинутое рассуждение, что делает Nemotron 3 Super идеальным для рабочих нагрузок инференса. Еще одной впечатляющей особенностью Nemotron 3 Super является контекстное окно в 1 миллион токенов, что в 4 раза больше, чем у Kimi 2.5. В агентных системах существует общее правило: чем больше окно, тем лучше ответ. Вот почему с этой точки зрения Nemotron 3 Super доминирует над всеми другими LLM с открытым исходным кодом и даже приближается к таким моделям, как Opus 4.5, несмотря на то, что ограничено всего 120 миллиардами параметров.
Говоря об OpenClaw, NVIDIA протестировала Nemotron 3 Super на PinchBench — наборе инструментов, используемом для оценки агентных рабочих нагрузок, и модель набрала 85,6% по всему набору тестов, превзойдя Opus 4.5, Kimi 2.5 и GPT-OSS 120b. Для потребителей, выполняющих обширные рабочие нагрузки через OpenClaw, Nemotron 3 Super открыл совершенно новый класс производительности с требованиями к вычислительной мощности, которые могут быть удовлетворены всего одной графической картой.
Nemotron 3 Super — лишь пример того, насколько обширными станут агентные системы ИИ в будущем, и интересно, что LLM теперь преодолевают и вычислительные ограничения, поэтому будущее развертывания моделей на периферии выглядит ярче, чем когда-либо.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Muhammad Zuhair