Барьером для развития искусственного интеллекта стала не нехватка мощных чипов, а медленная передача данных между ними. Об этом заявил сооснователь американского стартапа Upscale AI Барун Кар в интервью Interesting Engineering.
Современные ИИ-системы используют тысячи графических процессоров, которые обмениваются огромными объемами информации в реальном времени. Однако существующая сетевая инфраструктура — внутри дата-центров — не справляется с такими нагрузками. Это приводит к задержкам, потере данных и снижению производительности.
«Даже самые быстрые чипы не помогают, если сеть между ними перегружена. Это главное «узкое горлышко», мешающее масштабировать ИИ», — отметил Кар.
По его словам, сегодня рынок фактически зависит от одного поставщика — Nvidia. Ее решения закрыты, дороги и ограничивают гибкость. В ответ на это Upscale AI разрабатывает открытую модульную сеть, построенную на универсальных стандартах. Это позволит компаниям собирать ИИ-кластеры из оборудования разных производителей.