Китайский Институт науки и технологий искусственного интеллекта в Гуандуне (GDIIST) продемонстрировал уникальное вычислительное устройство BIE-1 — компактный ИИ-сервер, по размерам сопоставимый с минихолодильником. Его разработчики утверждают, что новинка использует всего 10% энергии крупных суперкомпьютеров при сопоставимой вычислительной мощности.
BIE-1 оснащён 1 152 ядрами процессора, 4,8 ТБ памяти DDR5 и 204 ТБ накопителей. Скорость обработки данных достигает примерно 100 000 токенов в секунду при обучении и 500 000 токенов в секунду при выводе данных, что примерно соответствует производительности кластеров мощных графических процессоров. Устройство использует «интуитивную нейронную сеть» — алгоритм, вдохновлённый устройством человеческого мозга, способный эффективно учиться, анализировать и принимать решения на основе ограниченного объёма данных с поддержкой мультимодальных входов (текст, изображения, речь).
Сервер может работать от обычной бытовой электросети, оставаясь при этом тихим и с температурой ЦП ниже 70 °С даже при максимальной нагрузке. Благодаря своему небольшому размеру и энергоэффективности BIE-1 подходит для использования в жилых и офисных помещениях, а также в мобильных условиях.
Разработчики полагают, что эта технология может стать прорывом в децентрализованном и устойчивом вычислительном подходе, позволяя снизить нагрузку на централизованные дата-центры и энергетические сети. Производство и коммерциализация новой системы уже ведутся двумя стартапами на базе GDIIST.