Компания Aria Networks, основанная 15 месяцев назад для разработки сетевой системы специально для рабочих нагрузок ИИ, уже коммерчески запустила свою нативную для ИИ систему Deep Networking platform. Стартап привлек $125 млн для финансирования следующего этапа. — telecomtv.com
Компания Aria Networks из Пало-Альто, Калифорния, представила нативную для ИИ систему сетевого взаимодействия для центров обработки данных под названием Deep Networking platform. Компания заявляет, что она способна поддерживать обучение и инференс ИИ совершенно иным и более эффективным способом, чем все, что развернуто в настоящее время в ЦОД. Это предложение привлекло раунд финансирования Серии А на сумму 125 миллионов долларов от группы частных инвестиционных фондов.
Компания, основанная всего 15 месяцев назад руководителями, получившими опыт работы в таких компаниях, как Arista, Cisco, Google, Juniper Networks, Pure Storage и других, разработала систему, в основе которой лежит телеметрическое программное обеспечение, постоянно собирающее и анализирующее системные данные таким образом, который позволяет инфраструктуре ИИ более эффективно (с точки зрения времени и затрат) производить токены (единицы данных, обрабатываемые, анализируемые и производимые большими языковыми моделями). Команда Aria Networks считает, что этот подход является переломным для «фабрик ИИ», поскольку он превращает сеть из «ограничителя» в «мультипликатор».
Aria Networks заявляет, что платформа Deep Networking была «создана с нуля для максимальной эффективности токенов», которая является «определяющим показателем эпохи фабрик ИИ и лучшим прокси для оценки того, окупаются ли инвестиции в кластер ИИ. Эффективность токенов напрямую связана с утилизацией MFU (model flop utilisation) и стоимостью за токен — улучшения в любой из этих областей напрямую ведут к росту выручки. И поскольку токены становятся валютой интеллекта, мы даем операторам возможность стать производителями с самой низкой себестоимостью на рынке, превращая эффективность инфраструктуры в конкурентное преимущество».
Мансур Карам, основатель и генеральный директор Aria Networks, подчеркнул это сообщение смелым заявлением: «Сеть стала главным препятствием в инфраструктуре ИИ. Deep Networking меняет это — и экономика это доказывает: прирост на 10% токенов в секунду — это прирост на 10% выручки».
И поскольку все больше и больше телекоммуникационных компаний рассматривают возможность создания собственных фабрик ИИ, именно такие технологические разработки в области ЦОД все чаще попадают в стратегическое поле зрения телекоммуникационных игроков.
Aria Networks заявила: «Фабрики ИИ ищут решения, которые позволят им производить токены наиболее эффективно, с наименьшими затратами, чтобы обеспечить максимально быстрое производство, а также самое дешевое потребление интеллекта. Aria была создана для того, чтобы раскрыть этот потенциал. Deep Networking — наш ответ, принципиально иной подход, который превращает сеть из ограничения в конкурентное преимущество… когда [сеть] работает плохо, она тянет вниз все остальное; когда она оптимизирована, она поднимает весь стек».
И акцент на телеметрии, очевидно, является ключевым. «Устаревшие сетевые решения рассматривают телеметрию как нечто второстепенное и полагаются на статическую конфигурацию, разработанную для другой эпохи… Deep Networking меняет это», — добавили в Aria.
Однако система телеметрии — лишь одна часть платформы Deep Networking, и основная мысль команды Aria заключается в том, что для реализации эффективности обработки ИИ должен присутствовать базовый набор возможностей (аппаратное обеспечение, агенты ИИ и многое другое).
Компания заявляет, что Deep Networking состоит из пяти столпов, «все из которых должны присутствовать для достижения желаемого результата», и которые становятся «умнее» каждый раз, когда они обрабатывают рабочую нагрузку. Этими столпами являются:
Аппаратное обеспечение, оптимизированное для ИИ, и «укрепленный» SONiC: Коммутаторная платформа Aria, построенная на чипах Broadcom Tomahawk 5 и Tomahawk 6, с конфигурациями коммутаторов как с масштабированием наружу (scale-out), так и с масштабированием вверх (scale-up), и работающая на нативном для ИИ SONiC (программное обеспечение для открытых сетей в облаке) в качестве сетевой операционной системы, обеспечивает коммутацию 800 гигабит в секунду и 1,6 Тбит/с в жидкостном и воздушном охлаждении.
Детализированная, сквозная телеметрия: Aria утверждает, что ее система телеметрии, которая собирает данные с коммутаторов и трансиверов и представляет их в едином унифицированном представлении, может похвастаться разрешением в 100–10 000 раз выше, чем у традиционных инструментов.
Интеллектуальные агенты на каждом уровне: Специализированные агенты ИИ «оценивают сигналы, извлекают информацию и предпринимают действия с соответствующим разрешением — от коммутационного ASIC до облачной оркестрации».
Встроенная экспертиза в области сетей: «Каждый агент и каждое решение основаны на предметных знаниях Deep Networking — система не просто видит данные, она понимает, что они означают». Таким образом, контекст здесь имеет первостепенное значение, что мы также слышали во время MWC26.
Непрерывные обновления: Новые возможности разрабатываются бесшовно и непрерывно, поддерживая сеть на переднем крае производительности для каждой новой рабочей нагрузки.
Стоит также отметить, что эта платформа разработана для работы с любой платформой процессоров ИИ — она нейтральна к чипам ИИ.
В анонсе Aria содержится гораздо больше подробностей и информации о платформе, но вот ее общая суть.
«Результатом является набор результатов, которые операторы [инфраструктуры ИИ] получают с первого дня: конфигурация на основе намерений, бесшовная оптимизация производительности в реальном времени и агентское партнерство, в котором операторы имеют в своем распоряжении детализированную телеметрию и могут сотрудничать с агентами Aria на естественном языке для решения проблем и оптимизации производительности. Это принципиально иной способ работы с сетями. Он превращает вашу сеть из ограничителя в мультипликатор, помогая вам максимально увеличить утилизацию вашего кластера ИИ в процессе обучения, инференса и любой архитектуры ускорителей: GPU, TPU или заказного кремния».
По данным Aria Networks, у нее теперь есть коммерческий продукт, инвесторы и, согласно этому блогу, клиенты (хотя они не названы). Инвесторы, вложившие 125 миллионов долларов, — это Sutter Hill Ventures, Atreides Management, Valor Equity Partners и Eclipse Ventures.
Подход Aria Networks также привлек поддержку со стороны некоторых крупнейших игроков в секторах полупроводников и инфраструктуры ИИ.
Хасан Сирадж, вице-президент по маркетингу продуктов группы Core Switching в Broadcom, заявил: «Проприетарные фабрики — это пережиток прошлого. С запуском 1,6 Тбит/с в сочетании с программной архитектурой, ориентированной на телеметрию, Aria Networks доказывает, что самые производительные сети ИИ на планете строятся на основе открытого, масштабируемого Ethernet, такого как серия коммутаторов Tomahawk 6 от Broadcom».
Пракаш Шрипати, вице-президент Supermicro, заявил: «По моему опыту проектирования высокопроизводительных фабрик для кластеров ИИ, самым большим узким местом являются «слепые зоны» в сети. Я лично впечатлен тем, как Aria Networks выходит за рамки простого обнаружения и переходит к истинной предиктивной оркестрации. Используя телеметрию на уровне микросекунд, они не просто уведомляют вас о перегрузке; они предоставляют интеллект для ее прогнозирования и предотвращения в условиях присущей трафику всплесковости. Это мощный переход к активному пилоту, обеспечивающему максимальную эффективность во всей фабрике ИИ».
Шейн Корбан, старший директор по управлению продуктами группы технологий и решений для сетей в AMD, прокомментировал: «По мере развития инфраструктуры ИИ эффективность и утилизация становятся столь же критичными, как и масштаб, что предъявляет новые требования к сети в части видимости, предсказуемости и контроля. Для удовлетворения этих требований AMD стремится обеспечить выбор клиентов через открытую экосистему. Сетевой адаптер AMD Pensando Pollara 400 AI NIC, развернутый с Aria Networks, помогает клиентам достичь повышенной производительности, более глубокого понимания и усиленного контроля над сетевой инфраструктурой ИИ».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ray Le Maistre