Найти тему
OVERCLOCKERS.RU

Исследователи нашли способ снизить потребление ИИ электричества более чем на 95%

По мере того как революция в области искусственного интеллекта набирает обороты, потребление энергии становится все более острой проблемой. Хотя такие крупные игроки, как NVIDIA, Microsoft и OpenAI преуменьшают серьезность этой проблемы, одна компания утверждает, что нашла ее решение.

Исследователи из BitEnergy AI представили методику, которая может значительно снизить энергопотребление ИИ при сохранении скорости и точности. Согласно их исследованию, этот метод может сократить потребление энергии на 95%. Разработка, получившая название Linear-Complexity Multiplication, или L-Mul, предлагает новый вычислительный подход, который основан на целочисленных сложениях вместо энергоемких умножений с плавающей точкой, обычно используемых в процессах ИИ.

Числа с плавающей точкой, необходимые для работы с очень большими или очень малыми величинами в вычислениях ИИ, работают аналогично научной нотации в двоичной форме. Они позволяют выполнять точные вычисления, но обходятся значительными затратами энергии.

Стремительное развитие моделей ИИ привело к тому, что потребление энергии растет до угрожающих размеров. Например, один только ChatGPT потребляет электроэнергию, эквивалентную потреблению 18 000 американских домохозяйств, – около 564 МВт-ч в день. По прогнозам Кембриджского центра альтернативного финансирования, к 2027 году сектор ИИ будет потреблять от 85 до 134 ТВт/ч в год, что делает энергоэффективность как никогда актуальной.

Алгоритм L-Mul решает эту проблему, упрощая сложные операции с плавающей точкой до более энергоэффективных вычислений. Первые испытания показали, что модели ИИ сохранили свою точность, сократив потребление энергии на 95%.

📃 Читайте далее на сайте