На международной конференции GTC 2024 одна из компаний-производителей видеокарт показала ускорители следующего поколения на графических процессорах на основе нейросетей. Саму компанию не называем, чтоб не отхватить от Дзена за рекламу, но ее название в тексте прозвучит.
Будущие ускорители искусственного интеллекта (ИИ) предоставят возможность создавать еще более мощные нейронные сети и при этом потреблять до 25 раз меньше энергии и быть экономичнее по сравнению с предыдущими из этой серии.
По данным производителя, их встраиваемый гаджет дает 30-кратный прирост производительности по сравнению с Nvidia H100 для рабочих нагрузок. То есть, котики у вас на экране откроются раньше, чем вы включите компьютер.
Новое графическое процессорное устройство стало самым мощным в мире. Общая численность транзисторов в этом устройстве составляет 208 млрд. Графический процессор состоит из двух кристаллов, которые соединены шиной с пропускной способностью 10 Тбайт/с и работают как единое устройство. Оно обеспечивает производительность до 20 и 10 Пфлопс, соответственно.
Если кто не знает, флопс - это единица измерения производительности компьютеров, обозначающая, сколько операций в секунду выполняет данная вычислительная система. "Пента" - это много. Есть кило, мега, гига, тера и потом идет пента. Не путать с пентаграммой.
Причем на выставке показали и флагманскую видеокарту, которая в операциях достигает 40 Пфлопс.
Архитектура этих ускорителей включает инновационные технологии, способствующие ускорению вычислений и позволяющие достичь прорыва в обработке данных, инженерном моделировании, автоматизации проектирования электроники, создании компьютерных лекарств, квантовых вычислениях и генеративном ИИ.
Вряд ли вам интересны прям тонкости-тонкости, но все же. Производитель внедрил в свое железо электронный механизм, который умеет более тонко подбирать необходимую точность вычислений для тех или иных задач, что влияет и на скорость обучения и работы нейросетей.
Не забыли и о серверах. Показали стойку с 13,5 Тбайт памяти HBM3E с общей пропускной способностью до 576 Тбайт/с. Оперативная память составила 30 Тбайт. Такая связка дает ИИ-производительность 1,4 эксафлопс. Не, точно, котики подтормаживать не будут. Тем более, что в применении к сетям новинка дает скорость до 800 Гбит/с.
Радует во всей этой истории только одно: все эти буржуйские примочки к нам никогда не придут. Ну зачем в какой-то там Гатчине, в квартире, где интернет всего 2 мегабита и раздается с дешевого смартфона на Ведроиде, нам вся ихая зaжpaтaя приблуда?
Интересно знать ваше мнение, верите ли вы, что такая технология дойдет и до вашего дома? Или "поговорили (тут должно было быть матерное слово) и забыли"?
Напишите пожалуйста в комментариях.