Найти в Дзене
Галера Морева

Потребление нейросетей и электромобиля

Последние месяцы я активно гоняю нейросети и периодически ловлю мысль: “блин, оно же жрёт электричество”. Померил потребление по комнате в офисе. Важно: это не “чисто инференс на видеокарте”, а общее потребление — весь ПК на максималках целиком (CPU/GPU/БП/мониторы) плюс всякая мелочь в комнате. Цифры такие: с просто включенным компом ~600 Вт, а когда всё под нагрузкой — 950–1000 Вт. Округлим до 1 кВт. Уже год езжу на электрокаре (о потреблении электричек писал статью на хабр). У машины батарея 66 кВт⋅ч. Хватает максимум на 350 км. Если перевести это в “расход энергии на километр”, получается так: • 66 кВт⋅ч / 350 км — около 0.2 кВт⋅ч на км • значит 1 час работы нейронок на моем ПК (~1 кВт⋅ч) — это примерно 5–5.5 км езды. И вот тут становится спокойнее. Моя дорога на тренировку — 4 км в один конец. Туда‑обратно легко набегает 8–10 км. То есть только сгонять на тренировку это уже 2 часа активной работы нейронок :) Понятно, что это всё в масштабе моих личных цифр и “человеческих”

Потребление нейросетей и электромобиля

Последние месяцы я активно гоняю нейросети и периодически ловлю мысль: “блин, оно же жрёт электричество”.

Померил потребление по комнате в офисе. Важно: это не “чисто инференс на видеокарте”, а общее потребление — весь ПК на максималках целиком (CPU/GPU/БП/мониторы) плюс всякая мелочь в комнате.

Цифры такие: с просто включенным компом ~600 Вт, а когда всё под нагрузкой — 950–1000 Вт. Округлим до 1 кВт.

Уже год езжу на электрокаре (о потреблении электричек писал статью на хабр). У машины батарея 66 кВт⋅ч. Хватает максимум на 350 км. Если перевести это в “расход энергии на километр”, получается так:

• 66 кВт⋅ч / 350 км — около 0.2 кВт⋅ч на км

• значит 1 час работы нейронок на моем ПК (~1 кВт⋅ч) — это примерно 5–5.5 км езды.

И вот тут становится спокойнее.

Моя дорога на тренировку — 4 км в один конец. Туда‑обратно легко набегает 8–10 км. То есть только сгонять на тренировку это уже 2 часа активной работы нейронок :)

Понятно, что это всё в масштабе моих личных цифр и “человеческих” потреблений — без датацентров и промышленности. Но такое сравнение успокаивает: нейросети “кушают”, но на фоне повседневных вещей это не выглядит чем-то запредельным — можно не париться.