Сейчас большинство современных устройств и технических систем, от смартфонов и ПК до серверов центров обработки данных, содержат графические процессоры (GPU), а также аппаратные ускорители для ИИ и машинного обучения.
Это относится, например, к тензорным ядрам на графических процессорах Nvidia, тензорным процессорам (TPU) на серверах Google Cloud, нейронным механизмам на Apple iPhone или Edge TPU на телефонах Google Pixel.
Новая программная платформа дает преимущество существующим аппаратным платформам. Фото из открытых источников Каждый из этих компонентов обрабатывает информацию отдельно. Затем информация передается от одного процессора к другому. Эта пакетная обработка, конечно, является узким местом в потоке данных, поскольку неактивные компоненты в основном простаивают, пока обрабатываются другим процессором.
В исследовании ученые из Калифорнийского университета в Риверсайде (UCR) показали метод, при котором различные компоненты работают одновременно. Таким образом, можно существенно увеличить скорость обработки и снизить потребление энергии. Исследователи называют свою новую систему одновременной и гетерогенной многопоточностью (SHMT).
SHMT использует несколько компонентов, разделяя между ними выполняемые вычислительные функции, тем самым вводя параллельную обработку. Чтобы проверить свою концепцию, исследователи создали систему с типом чипов и вычислительной мощностью, которые есть в каждом новом смартфоне. Позже они внесли некоторые изменения, чтобы проверить жизнеспособность этого подхода в центрах обработки данных.
Они использовали стандартные компоненты, которые соединяли друг с другом через интегрированный интерфейс PCIe. Решение было протестировано под Ubuntu Linux 18.04. Для тестов использовались бенчмарк-приложения, что несколько ограничивает заявления о его пригодности для повседневного использования.
Этот тип тестирования показывает, что программная среда привела к увеличению скорости до 1,95 раза и снижению энергопотребления на 51% по сравнению с немодифицированным подходом. Исследователи UCR полагают, что это может оказать существенное влияние на рынок. Могут появиться более быстрые, дешевые и энергосберегающие продукты.
С одной стороны, существующие модифицированные продукты могут обеспечить огромный прирост производительности, но с другой стороны, эту концепцию можно использовать для достижения той же производительности, что и раньше, со значительно более дешевыми компонентами. В центрах обработки данных аспект снижения энергопотребления сыграет важную роль, поскольку технология может снизить выбросы углекислого газа и потребление воды.
Продукт еще не готов к выходу на рынок и требует дальнейших исследований. Специалисты впервые рассказали о разработке на форуме Micro 2023 в Торонто в начале ноября 2023 года.