Команда инженеров из BitEnergy AI сделала значительное открытие в области снижения энергопотребления приложений искусственного интеллекта. Они разработали метод, который способен уменьшить потребности в энергии на 95%, что может оказать серьезное влияние на индустрию.
С ростом популярности приложений ИИ возникли проблемы с увеличением их энергозатрат. Например, ChatGPT требует около 564 МВтч электроэнергии в день, что сопоставимо с потреблением 18 000 домов в США. Критики предсказывают, что в ближайшие годы потребление энергии приложениями ИИ может достичь 100 ТВтч в год, что ставит их на один уровень с операциями по добыче биткоинов.
Инженеры BitEnergy AI нашли способ значительно сократить объем вычислений, необходимых для работы приложений ИИ, не влияя на их производительность. Они предложили использовать метод целочисленного сложения вместо сложного умножения с плавающей точкой (FPM), которое требует значительных ресурсов. FPM обычно применяется для обработки больших и малых чисел, обеспечивая высокую точность вычислений, но именно этот процесс является наиболее энергоемким.
Новый подход, названный Linear-Complexity Multiplication, основывается на аппроксимации FPM с использованием целочисленного сложения. По словам исследователей, предварительные тесты показали, что данный метод позволяет сократить потребление электроэнергии на 95%. Это открытие может стать поворотным моментом в разработке более эффективных приложений ИИ.
Несмотря на очевидные преимущества, новый метод требует другого оборудования, чем то, что используется в настоящее время. Однако команда BitEnergy AI уже спроектировала и протестировала новый тип оборудования, что создает надежду на его скорое внедрение. Вопрос о лицензировании этого оборудования остается открытым, так как на рынке доминирует компания Nvidia, производящая графические процессоры для ИИ.
Реакция Nvidia на эту новую технологию может оказать значительное влияние на скорость ее внедрения. Если заявления команды BitEnergy AI подтвердятся, то их метод может радикально изменить подход к разработке и использованию приложений ИИ.