Найти в Дзене

✨ Экономика многоагентного ИИ влияет на автоматизацию бизнеса

Управление экономикой многоагентного ИИ теперь определяет финансовую жизнеспособность современных рабочих процессов автоматизации бизнеса. Организации, переходящие от стандартных чат-интерфейсов к многоагентным приложениям, сталкиваются с двумя основными ограничениями. Первой проблемой является налог на мышление; сложные автономные агенты должны рассуждать на каждом этапе, что делает зависимость от массивных архитектур для каждой подзадачи слишком дорогой и медленной для практического использования в бизнесе. Вторым препятствием является взрыв контекста; эти продвинутые рабочие процессы производят до 1500% больше токенов, чем стандартные форматы, поскольку каждое взаимодействие требует повторной отправки полных историй системы, промежуточных рассуждений и выходов инструментов. Для решения этих проблем разработчики аппаратного и программного обеспечения выпускают высоко оптимизированные инструменты, ориентированные на инфраструктуру предприятий. NVIDIA недавно представила Nemotron 3

✨ Экономика многоагентного ИИ влияет на автоматизацию бизнеса

Управление экономикой многоагентного ИИ теперь определяет финансовую жизнеспособность современных рабочих процессов автоматизации бизнеса. Организации, переходящие от стандартных чат-интерфейсов к многоагентным приложениям, сталкиваются с двумя основными ограничениями.

Первой проблемой является налог на мышление; сложные автономные агенты должны рассуждать на каждом этапе, что делает зависимость от массивных архитектур для каждой подзадачи слишком дорогой и медленной для практического использования в бизнесе.

Вторым препятствием является взрыв контекста; эти продвинутые рабочие процессы производят до 1500% больше токенов, чем стандартные форматы, поскольку каждое взаимодействие требует повторной отправки полных историй системы, промежуточных рассуждений и выходов инструментов.

Для решения этих проблем разработчики аппаратного и программного обеспечения выпускают высоко оптимизированные инструменты, ориентированные на инфраструктуру предприятий. NVIDIA недавно представила Nemotron 3 Super, открытую архитектуру с 120 миллиардами параметров, специально разработанную для выполнения сложных систем агентного ИИ.

Система предлагает контекстное окно в один миллион токенов, позволяя агентам сохранять состояние всего рабочего процесса в памяти и напрямую решая риск отклонения от целей. Это позволяет, например, загружать целую кодовую базу для генерации и отладки кода без необходимости сегментации документов.

Лидеры отрасли, такие как Amdocs, Palantir, Cadence, Dassault Systèmes и Siemens, внедряют и настраивают модель для автоматизации рабочих процессов в телекоммуникациях, кибербезопасности, проектировании полупроводников и производстве.

Модель была выпущена с открытыми весами под разрешительной лицензией, что позволяет разработчикам развертывать и настраивать её в рабочих станциях, дата-центрах или облачных средах. Архитектура была обучена на синтетических данных, сгенерированных моделями передового рассуждения.

Любой руководитель, планирующий внедрение цифровых технологий, должен заранее решить проблемы взрыва контекста и налога на мышление, чтобы предотвратить отклонение от целей и перерасходы в агентных рабочих процессах.

Источник

@aichangelogs@modelping@modelping