Британский стартап Lumai готовит к выпуску на рынок компьютер с оптическим матричным умножителем для искусственного интеллекта (ИИ). По словам руководителя отдела компании Lumai Филиппа Берра, инноваторы смогли обойти проблемы, из-за которых потерпели неудачу ранние решения в области фотонных вычислений.
«Мы обеспечиваем масштабируемость, так как выполняем вычисления в объёме (а не на плоскости. – Прим. ред.), что позволяет нам получить массовый параллелизм, – сказал Берр. – Мы используем стандартные покупные материалы и компоненты, немного модифицированные. Нам не приходится проводить проектирование по полному циклу».
Оптический ускоритель Lumai содержит 1024 лазерных источника света, которые разделяются призмами. Лучи проходят систему линз и попадают на дисплейную матрицу, в которой состояние каждого пиксела (от тёмного до светлого) закодировано весовыми коэффициентами. Проходя через дисплей, амплитуда света модулируется (то есть умножается на коэффициенты аналоговым образом), а затем через объектив результаты умножения объединяются, то есть происходит аналоговое сложение световых потоков. Вычислитель обрабатывает математические матрицы большого размера за одну операцию.
Система почти не требует энергии для вычислений. Энергоёмки лишь лазерные источники и оптоэлектронные преобразователи. Компания Lumai заявляет, что её технология может обеспечить в 50 раз большую производительность, чем современные графические процессоры, при снижении энергопотребления на 90%.
«В настоящий момент ограничителем для центров обработки данных является энергопотребление, – сказал Берр. – Наше решение преодолевает это ограничение благодаря значительному повышению энергоэффективности… Дело в том, что потребляемая мощность зависит от размера матрицы линейно, тогда как производительность пропорциональна его квадрату. Таким образом, с увеличением размера матрицы эффективность возрастает».
В системе Lumai используется цифровой процессор, который берёт на себя некоторые нелинейные операции и перенаправляет тяжёлые рутинные задачи по умножению матриц в оптическую систему. Именно он определяет, какие части работы выполняются на ЦП, а какие – поступают в оптический модуль. Ветви алгоритмов, особенно чувствительные к точности, могут обрабатываться центральным процессором. Для языковой модели Llama, по словам Берра, 90% нагрузки берёт на себя оптический модуль.
Интерфейс между центральным процессором и оптическим модулем реализован на ПЛИС (программируемая логическая интегральная схема). В сервере следующего поколения ПЛИС будет заменена специализированной интегральной схемой (ASIC).
Скоро клиентам для оценки технологии будет предложен сервер обработки данных Iris Nova с оптическим модулем первого поколения. Сегодня на нем крутится демонстрационная версия Llama.
«Мы уделяем огромное внимание Llama, – объяснил Берр. – Llama – это ПО с открытым исходным кодом, своего рода эталон, который клиенты используют для оценки производительности. Но мы будем расширять набор программ, выполняемых на Iris Nova».
Берр ожидает, что серверы Iris Nova будут развернуты в тестовых кластерах к концу 2026 года. Следующая итерация системы, Iris Aura, объединит в стойке несколько оптических модулей. После этого Iris Tetra позволит развертывать оптические модули в масштабах кластера. Компания обещает, что, Tetra, выход которой запланирован на 2029 год, сможет достичь производительности 100 TOPS/Вт (по методике INT8), обеспечивая скорость вычислений 1 экзаопс при энергопотреблении 10 кВт.
Теги: искусственный интеллект не ждёт, аналоговый оптический вычислитель спасёт перегруженные электросети от ИИ?
______________________________
Спасибо за ваши комментарии и лайки. Нам важно, что вы нас читаете.