Недавно наткнулся на информацию о том, что излишняя вежливость пользователей, которые перед постановкой конкретной задачи в чате нейросети сначала категорически приветствуют ее, как будто это закадычный приятель-собеседник, перегружают вычислительную систему и делают всю эту историю еще более энергозатратной!
Да, обработка приветствий и других пользовательских запросов нейросетями действительно потребляет значительные энергетические ресурсы, хотя масштабы зависят от множества факторов.
Почему обработка запросов энергозатратна
- Сложность алгоритмов и объём данных. Современные языковые модели (например, GPT-4) содержат триллионы параметров. При обработке запроса нейросеть прогоняет его через все эти параметры, что требует колоссального количества вычислений.
- Использование мощного оборудования. Для работы ИИ применяются графические процессоры (GPU) и тензорные процессоры (TPU), которые потребляют много энергии. Например, один чип NVIDIA H100 при пиковых нагрузках может потреблять до 700 Вт. Для обработки запросов одновременно работают десятки тысяч таких процессоров.
- Дополнительные процессы. Значительная часть энергии уходит на охлаждение серверов (без этого чипы перегреются и выйдут из строя), обмен данными между процессорами и обеспечение работы систем памяти.
- Масштабы использования. Даже если один запрос потребляет относительно немного энергии, в масштабах миллионов пользователей цифры становятся существенными. Например, по данным исследований Hugging Face и Carnegie Mellon University, один запрос к текстовой модели потребляет в среднем около 0,00047 кВт·ч. Если предположить, что ChatGPT обрабатывает 300 млн запросов в неделю, это уже 141 мегаватт-час каждые семь дней.
Сравнение с другими задачами
- По оценкам экспертов, один текстовый запрос к нейросети потребляет в 10 раз больше энергии, чем обычный поиск в Google.
- Генерация изображения требует ещё больше энергии — примерно столько же, сколько нужно для зарядки смартфона.
- Абстрактные или философские вопросы могут увеличивать энергопотребление в 50 раз по сравнению с простым поиском.
Масштабы глобального потребления
По данным Международного энергетического агентства (МЭА), на вычисление и хранение данных в настоящее время приходится от 1 до 1,5% мирового спроса на электроэнергию. Однако с развитием ИИ эта доля может серьёзно вырасти. Некоторые прогнозы предполагают, что к 2030 году дата-центры будут потреблять 3–4% всей электроэнергии планеты.
Таким образом, хотя обработка отдельных приветствий или простых запросов сама по себе не является катастрофически энергозатратной, в масштабах массового использования нейросетей и их постоянного развития потребление энергии становится значительной проблемой.
Так что, товарищи, не надо отвлекать ИИ всякими отвлеченными философствованиями и реверансами! А то дороговато все это выходит!
__________________
Друзья! Канал НЕЙРОлогия это место где мы говорим о самых новейших технологиях простым и доступным языком, обсуждаем последние новости и делимся своим уникальным мнением о происходящем в этом новом удивительном мире!