Искусственный интеллект часто критикуют за высокий уровень энергопотребления, но новое исследование Epoch AI говорит об обратном. По их данным, ChatGPT потребляет всего 0,3 Втч на запрос — это в 10 раз меньше, чем предыдущая популярная оценка в 3 Втч.
Для сравнения, один поиск в Google требует 0,0003 кВтч (0,3 Втч) энергии. Основываясь на старой оценке, два года назад председатель Alphabet Джон Хеннесси предположил, что обмен с ИИ может быть в 10 раз более энергоеким, чем обычный поиск. Однако, если новая оценка верна, то GPT-4o по энергопотреблению фактически сравнялся с поиском Google.
Мало кто задумывается об энергозатратах, пользуясь облачными сервисами. Для пользователя "облако" кажется чем-то невидимым, далеким от дома. Мы привыкли учитывать лишь энергопотребление своего девайса, но на самом деле каждый запрос требует ресурсов серверов, поддерживающих работу ИИ.
Обучение больших языковых моделей (LLM) — еще более энергозатратный процесс. После обучения также требуется вычислительная мощность для обработки запросов. Однако, как выясняется, сам процесс взаимодействия с ChatGPT требует значительно меньше энергии, чем предполагалось ранее. По словам Epoch AI, 0,3 Втч — это меньше, чем потребляет ноутбук или LED-лампочка за несколько минут работы.
Разница в оценках связана с пересмотром методики расчетов. Ранее предполагалось, что средний ответ содержит 1500 слов, но теперь учитываются более реалистичные 500-600 слов. Также новая модель учитывает использование более современных чипов, таких как Nvidia H100, вместо A100.
Однако, полная картина все еще остается неопределенной. Например, длинные запросы могут значительно увеличить энергопотребление — от 2,5 до 40 Втч. Поэтому любые оценки носят приблизительный характер.
Стоит учитывать не только энергопотребление ИИ, но и его потенциальные выгоды. ChatGPT может повышать производительность, сокращая время работы компьютеров, а также помогать в разработке более эффективных энергетических технологий. С другой стороны, есть и обратный эффект — энергоемкое обучение новых моделей.
Важно понимать, что сравнение энергозатрат разных технологий не так просто. Например, поиск в Google требует не только вычислений для выдачи ответа, но и постоянного индексирования веб-страниц, что также потребляет ресурсы.
В конечном итоге новая оценка в 0,3 Втч — хорошая новость, но это все еще лишь оценка. Epoch AI отмечает, что прозрачность со стороны OpenAI и других крупных ИИ-компаний помогла бы получить более точные данные. Однако ждать полной открытости в этой сфере, похоже, не стоит. ИИ компании явно не спешат рассказывать, сколько денег уходит на те или иные расходы.