Компания Cerebras Systems представила свой самый быстрый в мире чип искусственного интеллекта (ИИ) - Wafer Scale Engine 3 (WSE-3). Этот чип содержит 4 триллиона транзисторов и имеет 900 000 ядер ИИ. Он обеспечивает вдвое большую производительность по сравнению с предыдущей моделью, WSE-2, при той же мощности и по той же цене. WSE-3 разработан специально для обучения больших моделей ИИ и используется в суперкомпьютере Cerebras CS-3, который обеспечивает 125 петафлопс пиковой производительности ИИ.
CS-3 обладает огромной системой памяти объемом до 1,2 петабайт, что позволяет обучать модели с 24 триллионами параметров в едином логическом пространстве памяти без разбиения или рефакторинга. Это значительно упрощает процесс обучения и повышает производительность разработчиков. CS-3 предназначен для корпоративных и гипермасштабных задач и может обучать модели с до 70 миллиардами параметров за день.Cerebras Software Framework - новая платформа, которая предлагает встроенную поддержку PyTorch 2.0 и новых моделей и техник ИИ. Она также обеспечивает аппаратное ускорение для динамической и неструктурированной разреженности, что позволяет ускорить обучение до 8 раз.У CS-3 превосходная энергоэффективность и простота использования. Он обеспечивает большую вычислительную производительность при меньшей площади и меньшем энергопотреблении по сравнению с другими системами. CS-3 требует на 97% меньше кода для использования по сравнению с графическими процессорами и может обучать модели от 1 миллиарда до 24 триллионов параметров.Cerebras уже имеет значительный объем заказов на CS-3, включая корпоративные и правительственные заказы. Компания также установила партнерство с G42 и совместно создает суперкомпьютеры ИИ, включая проект Condor Galaxy 3, который будет состоять из 64 систем CS-3 и обеспечивать 8 эксафлопс вычислений. Condor Galaxy 3 будет одним из крупнейших суперкомпьютеров ИИ в мире.Cerebras продолжает развивать передовые технологии в области искусственного интеллекта и предлагает революционные решения для решения сложных задач в этой области.
