98 подписчиков
🌐 Marvell: еще одно узкое место инфраструктуры искусственного интеллекта — это сеть
На COMPUTEX 2026 компания Marvell представила ключевой тезис: дальнейшее масштабирование инфраструктуры искусственного интеллекта упирается не столько в вычислительные ускорители, сколько в связность сети — межсоединения и передачу данных.
Речь идет о том, как данные движутся между:
• ускорителями (графическими процессорами и специализированными интегральными схемами);
• серверами и стойками;
• дата-центрами и распределенными площадками.
Именно здесь, по словам Marvell, формируется еще один узкий участок инфраструктуры.
Почему это важно:
⚡ Искусственный интеллект масштабируется за пределы одного дата-центра
Модели становятся настолько большими, что их вычисления распределяются между разными кластерами и площадками.
🌐 Сеть становится частью производительности
Пропускная способность и задержка напрямую влияют на то, сколько токенов в секунду может выдавать система.
🔌 Межсоединения важнее, чем кажется
Даже при наличии мощных графических процессоров узким местом может стать обмен данными между узлами.
💰 Стоимость вывода зависит от сети
Чем эффективнее коммуникация между ускорителями, тем ниже стоимость обработки запросов.
Главный вывод:
Инфраструктура искусственного интеллекта больше не завязана только на графические процессоры, все важнее становится сеть между отдельными элементами.
👉 Теперь купить графический процессор уже недостаточно — производительность определяется всей системой, включая межсоединения и уровень сетевой инфраструктуры.
1 минута
3 июня