Найти в Дзене
Мистер Твистер

Гонка ИИ и цена электроэнергии. ч.2

Это вторая часть о стоимости искусственного интеллекта. Первая обзорная статья находится здесь. Сейчас хочу заострить ваше внимание именно на стоимости языковых моделей (LLM). Мы уже привыкли, что искусственный интеллект — это что-то эфемерное: диалог в чате, картинка из ничего, мгновенный перевод. Но за этой цифровой магией стоят очень физические и прожорливые «мозги» — дата-центры, пожирающие гигантские объемы энергии. Давайте переведем абстрактные «мегаватты» на понятный язык: в стоимость, в лампочки и в целые города. Рождение интеллекта: астрономический счет за «образование» ИИ Прежде чем нейросеть ответит на первый вопрос, её нужно обучить. Это как отправить одного студента в Ленинскую библиотеку и заставить его прочитать, понять и запомнить всё — от научных журналов до форумов и книг — за несколько недель. Что такое «обучение» с точки зрения энергии? Это многомесячная работа тысяч специализированных процессоров (GPU), которые, решая триллионы математических задач, настраивают три
Сгенерировано ГигаЧат
Сгенерировано ГигаЧат

Это вторая часть о стоимости искусственного интеллекта. Первая обзорная статья находится здесь.

Сейчас хочу заострить ваше внимание именно на стоимости языковых моделей (LLM).

Мы уже привыкли, что искусственный интеллект — это что-то эфемерное: диалог в чате, картинка из ничего, мгновенный перевод. Но за этой цифровой магией стоят очень физические и прожорливые «мозги» — дата-центры, пожирающие гигантские объемы энергии. Давайте переведем абстрактные «мегаватты» на понятный язык: в стоимость, в лампочки и в целые города.

Рождение интеллекта: астрономический счет за «образование» ИИ

Прежде чем нейросеть ответит на первый вопрос, её нужно обучить. Это как отправить одного студента в Ленинскую библиотеку и заставить его прочитать, понять и запомнить всё — от научных журналов до форумов и книг — за несколько недель.

Сгенерировано ИИ
Сгенерировано ИИ

Что такое «обучение» с точки зрения энергии? Это многомесячная работа тысяч специализированных процессоров (GPU), которые, решая триллионы математических задач, настраивают триллионы параметров (цифровых «винтиков») внутри модели.

Масштаб задачи: Обучение современной большой языковой модели (LLM), такой как GPT-4, Claude или российский GigaChat, — это один из самых энергозатратных вычислительных процессов, созданных человечеством.

Немного статистики:

- GPT-3 (2020 год): Потребовало ~1,3 ГВт/ч. Этого хватило бы, чтобы обеспечить электричеством 130 частных домов на целый год или проехать на электромобиле 6,5 миллионов километров.

- Современные модели (GPT-4, Gemini Ultra): По оценкам экспертов, требуют в 5-10 раз больше — от 5 до 15 ГВт/ч. Почему? Модели стали больше, а данных для обучения — ещё больше.

Кто может позволить себе такое «образование»? Только игроки уровня государств или IT-гигантов. Один такой тренировочный забег для ИИ обходится в десятки, а то и сотни миллионов долларов (аренда/покупка железа + электричество). Это создает «энергетический барьер входа»: стартап или университет не смогут повторить этот подвиг с нуля.

Работа мысли: как копейка за запрос превращается в миллиарды

После обучения наступает этап инференса — когда готовая модель отвечает на ваши вопросы. Один ответ — капля в море. Но когда таких капель — миллиарды каждый день, они образуют энергетический океан.

Разберем на конкретных примерах:

1. Простой запрос в ChatGPT или «Алисе» - 0,003 кВт/ч. Примерно столько же, сколько потребляет LED-лампочка (10 Вт) за 10 минут работы. Кажется, ерунда.

2. Сложный запрос или долгий диалог: – 0,05 кВтч. Сравнимо с часом работы мощного игрового ноутбука.

3. Генерация одной картинки в Midjourney или аналоге: Энергозатраты – 0,15 кВтч. Это 2-3 часа просмотра ТВ.

Допустим, у крупного сервиса (вроде ChatGPT) 10 миллионов пользователей в день делают по 5 запросов средней сложности (0,01 кВт/ч).

· Дневной расход: 10 000 000 * 5 * 0,01 кВт/ч = 500 000 кВт/ч (500 МВт/ч).

· Годовой расход: 500 МВтч * 365 = 182 500 000 кВт/ч (182,5 ГВт/ч).

Это годовое потребление города с населением 40 тысяч человек (например, Горячий Ключ или Коломна— целый город, питаемый только одним ИИ-сервисом!).

По среднерыночной цене для дата-центров (~5 руб/кВт) — это более 900 миллионов рублей в год только на электричество для одного сервиса. А ведь ещё нужно охлаждать сервера (они очень сильно греются), платить за железо и инфраструктуру.

Каждый ваш диалог с ИИ имеет не только цифровую, но и реальную, материальную цену, измеряемую в киловатт-часах.

Энергия станет валютой прогресса в ИИ. Страны с дешевой и стабильной атомной или гидрогенерацией получат стратегическое преимущество.

Будущее — за «умной» экономией. Следующий прорыв будет не у того, кто сделает модель на 10% умнее, а у того, кто заставит её работать в 10 раз эффективнее и дешевле.

В следующий раз, когда вы попросите нейросеть сочинить стих или написать код, вспомните: где-то в дата-центре в Братске или Красноярске зажглись тысячи лампочек, питаемые энергией сибирских рек или атомных реакторов Воронежа, чтобы подарить вам этот цифровой момент.

Искусственный интеллект — это не просто софт. Это самый требовательный потребитель электроэнергии XXI века, и его аппетит только растет.

Дальше исследую наши отечественные системы искусственного интеллекта, включая ГигаЧат, Алиса AI, ну и мелкие от МТС.