Вы когда-нибудь чувствовали, как нагревается телефон, если поиграть в крутую игру?
Умножите это тепло в миллион раз. Добавьте тысячи компьютеров, работающих 24/7. И получите дата-центр, который тренирует нейросеть.
Говорят, ИИ - это будущее. Но мало кто говорит, что это будущее очень голодное до электричества.
Давайте посчитаем на пальцах. Без формул. Только факты, от которых становится жарко.
Сколько энергии жрёт один запрос к ChatGPT?
Простой текстовый ответ - примерно в 10 раз больше, чем обычный поиск в Google.
Один запрос к GPT-4 - это около 0,005 кВт·ч (5 ватт-часов). Вроде бы мелочь.
Но таких запросов - миллиарды в день.
Если сложить всю энергию, которую тратят большие нейросети (ChatGPT, Midjourney, Claude, Gemini) за год - получится примерно 30–50 ТВт·ч.
Это больше, чем потребляет целая маленькая страна. Например, Литва или Грузия.
А рост -10 раз каждые 2 года.
Вау-факт №1. Одна тренировка GPT-4 сожгла энергию, которой хватило бы на 100 домов год
Тренировка - это когда нейросеть учится на миллиардах текстов и картинок. Это самое энергозатратное.
По оценкам, тренировка GPT-4 (2023 год) потратила около 50 ГВт·ч. Это как 50 миллионов киловатт-часов.
В переводе на бытовое: достаточно, чтобы обеспечить электричеством 5000 американских домохозяйств на целый год. Или зарядить 500 миллионов смартфонов.
И это только одна тренировка. А потом модель дообучают, исправляют, запускают заново.
Вау-факт №2. Нейросети и майнинг биткоинов - братья по обжорству
Майнинг биткоинов тратит примерно 150 ТВт·ч в год (это как вся Аргентина).
Все нейросети вместе пока тратят меньше -около 50 ТВт·ч. Но догоняют.
Разница в том, что майнинг - это бессмысленная работа ("найди хеш, получи монету"). А нейросети хоть что-то полезное делают.
Но и те, и другие греют планету. Уголь, газ, нефть - большая часть электричества до сих пор от них.
Одна из причин, почему ИИ-компании строят центры обработки данных в Исландии или на севере Швеции - там холодно, меньше трат на охлаждение. И дешёвая геотермальная или гидроэнергия.
Почему нейросети такие прожорливые? Три причины
Причина №1. Миллиарды параметров
У GPT-4 около 1,7 триллиона параметров. Каждый параметр - это маленькое число. Чтобы ответить на ваш запрос, нейросеть должна перемножить и сложить огромное количество этих чисел. Каждое действие -микроскопическая трата энергии. Миллиарды действий - уже осязаемая трата.
Причина №2. Охлаждение
Компьютеры, которые считают, сильно нагреваются. Их нужно охлаждать. А охлаждение - это ещё один огромный расход энергии. В некоторых дата-центрах до 40% электричества уходит не на вычисления, а на вентиляторы, кондиционеры и насосы.
Причина №3. Пересылка данных
Ваш запрос летит по оптоволокну, обрабатывается, ответ возвращается. Каждый бит на каждом участке пути требует энергии. Маршрутизаторы, серверы, кабели - всё жрёт.
Есть ли решение? Да, и оно вас удивит
Решение №1. Малые модели
Вместо огромной GPT-4 можно использовать маленькую специализированную модель. Она знает меньше, но для 90% задач хватает. И тратит в 100 раз меньше энергии.
Решение №2. Чип-ускорители
Google и Nvidia делают специальные чипы (TPU, H100), которые считают именно нейросети и тратят на 80% меньше энергии, чем обычные процессоры.
Решение №3. "Дистилляция"
Огромную модель "сжимают" в маленькую, сохраняя большую часть ума. Это как написать конспект вместо полной энциклопедии. Конспект - тоньше и легче.
Решение №4. Возобновляемая энергия
Microsoft, Google и Amazon уже строят дата-центры, подключенные к солнечным и ветряным электростанциям. И даже к атомным реакторам нового типа (SMR - малые модульные реакторы). Звучит страшно, но экологичнее угля.
Главный вывод
Нейросети - могучие, умные, удобные. Но за каждый ответ вы платите не только деньгами (подпиской), но и энергией, и выбросами углекислого газа.
Прямо сейчас один ваш разговор с ChatGPT - это примерно 10 граммов CO2. Примерно как проехать 50 метров на машине.
Кажется, мало. Умножьте на миллиарды пользователей.
Решения есть, но они пока не внедрены повсеместно.
Что делать вам? Не стесняйтесь использовать ИИ, но не просите его нарисовать "голубой квадрат на белом фоне" 500 раз подряд. Каждый лишний запрос- маленький, но реальный углеродный след.
Вопрос к вам (честно):
А вы задумывались о том, что у нейросетей есть "экологическая цена"? Или это всё равно, что думать о калориях в торте - лень, но иногда полезно? Пишите в комментариях.
Подписывайтесь. В следующей статье обещанная биология без стеснения: "Почему мы пукаем и как коровы чуть не уничтожили озоновый слой (спойлер: метан - это серьёзно)". Хотите - сразу дайте знать, и я напишу её следующей.