В одном из постов рассказывал вам про проблему недостатка GPU, а если проще - вычислительных мощностей для обучения ИИ, за которые сегодня борются все техногиганты мира 🦾 Но из этой технологической проблемы выходит еще одна, более серьезная, на мой взгляд - экологическая. Ведь вычислительные мощности, за счет которых работают нейросети, требуют огромное количество природных и энергетических ресурсов 🏭

Наткнулся на интересную статистику по тому, сколько ресурсов потребляют нейросети:

🍃До 134 тераватт-часов в год будет потреблять к 2027 году сектор ИИ. Это в 3 раза больше потребления электроэнергии Москвы в год.

🍃В 10 раз больше электроэнергии уходит на обработку одного запроса для ChatGPT, чем на стандартный запрос в Гугл.

🍃564 тысячи киловатт-часов в день потребляет на пике ChatGPT - это сопоставимо с энергопотреблением почти 27 тысяч жителей России.

🍃0,5 литра воды в день расходуется при обработке от 10 до 50 запросов ChatGPT.

Какой выход? Один из самых очевидных - оптимизировать LLM, то есть пытаться уменьшать размер модели без значительной потери качества.

А вообще очень развернуто представлена экологическая проблема LLM и ее решения в этой статье!

———

Затестить мощный ИИ прямо сейчас можете в LeoGPT

1 минута

12 июня 2024