Новая разработка Института искусственного интеллекта AIRI автоматически генерирует и оптимизирует GPU-код, который используется при обучении нейросетей
Специалисты Института искусственного интеллекта AIRI опубликовали в открытом доступе систему на базе искусственного интеллекта, которая автоматически создаёт и оптимизирует GPU-ядра. Речь идёт о специализированном коде, который выполняется на графических ускорителях и используется при обучении и работе нейросетей.
По словам разработчиков, технология позволяет ускорить создание моделей машинного обучения и снизить расходы на вычислительные ресурсы. В условиях растущей конкуренции в сфере искусственного интеллекта компании стремятся повышать эффективность обучения моделей и сокращать его стоимость.
«На фоне роста конкуренции в сфере ИИ компании всё чаще конкурируют не только качеством моделей, но и эффективностью их обучения и эксплуатации. Представленный подход показывает, что снижение стоимости ИИ-вычислений возможно не только за счёт покупки более мощного оборудования, но и за счёт интеллектуальной автоматизации самого кода», – отметил генеральный директор AIRI Иван Оселедец.
Оптимизировать вычисления
Современные системы искусственного интеллекта активно используют графические ускорители. На них выполняются специальные программы – GPU-ядра, которые состоят из большого числа математических операций. Скорость их работы зависит от структуры кода и особенностей архитектуры конкретной видеокарты.
Универсальные библиотеки редко обеспечивают максимальную производительность, поэтому разработчики часто пишут GPU-ядра вручную. Этот процесс требует времени и участия специалистов высокой квалификации.
Разработанная в AIRI система автоматизирует эту задачу. Она самостоятельно генерирует код GPU-ядер и оптимизирует его с учётом архитектуры графических ускорителей. Новый инструмент помогает ускорить разработку нейросетей и снизить их себестоимость.
Разработчики отмечают, что технологию можно адаптировать и для других типов GPU-кода. Для этого достаточно изменить исходный код системы. Всё это расширяет возможности применения инструмента и для других задач.