Илон Маск представил суперкластер Memphis. По словам Маска, в кластере используется 100 000 жидкостно-охлаждаемых графических процессоров H100, объединённых в одну матрицу RDMA. Это делает кластер самым мощным в мире для обучения искусственного интеллекта.
Такая огромная вычислительная мощность требует мощного источника питания. Каждый графический процессор H100 использует не менее 700 Вт, а для работы всего центра обработки данных требуется более 70 мегаватт энергии, не считая энергопотребления других серверов, сетей и охлаждающего оборудования.
Сейчас Маск использует 14 крупных мобильных генераторов для питания суперкомпьютерного кластера. Однако он ещё не заключил соглашение о поставках электроэнергии с местной электросетью, поэтому не может полагаться только на неё.
Аналитик по искусственному интеллекту и полупроводникам Дилан Патель изначально предполагал, что суперкомпьютерный кластер не сможет работать из-за нехватки электроэнергии. Он отметил, что сейчас из электросети извлекается всего 7 мегаватт энергии, которая может поддерживать работу около 4000 графических процессоров.
Администрация долины Теннесси (TVA) планирует предоставить объекту 50 мегаватт электроэнергии к 1 августа при условии, что xAI сможет подписать соответствующее соглашение. Подстанция мощностью 150 МВт на площадке xAI всё ещё строится и ожидается, что будет завершена в четвёртом квартале 2024 года.
Однако, проанализировав спутниковые снимки, Патель обнаружил решение Маска — использование 14 мобильных генераторов высокого напряжения, подключённых к оборудованию, которое выглядело как четыре мобильные подстанции.
Каждый генератор, размером с полуприцеп, может производить 2,5 мегаватта электроэнергии. А 14 таких генераторов способны вырабатывать удивительные 35 мегаватт.
В сочетании с 8 мегаваттами, получаемыми из сети, общая мощность составляет 43 мегаватта. Этого достаточно для запуска 32000 графических процессоров с ограниченной мощностью.
Если администрация долины Теннесси предоставит ему необходимые 50 мегаватт мощности в начале августа, у Маска будет достаточно мощности для одновременной работы 64000 графических процессоров.
Патель сказал, что для запуска 100000 графических процессоров требуется 155 мегаватт электроэнергии. Но xAI нужна подстанция, чтобы достичь этого уровня. Таким образом, либо строительство подстанции будет завершено досрочно, либо Маск развернёт больше мобильных генераторов для удовлетворения спроса на электроэнергию.
Огромное энергопотребление и его влияние на глобальное потепление — это основные проблемы, стоящие перед центрами обработки данных искусственного интеллекта.
Энергопотребление всех графических процессоров центров обработки данных, проданных только в 2023 году, превышает совокупное энергопотребление 1,3 миллиона обычных американских домохозяйств. Это оказывает огромное давление на электросеть.
Более того, простое строительство дополнительных электростанций не удовлетворит потребности центров обработки данных. Для доставки электроэнергии от электростанций к серверам потребуется дополнительная инфраструктура, такая как высоковольтные линии электропередачи и подстанции.
В дополнение к времени и стоимости строительства электростанции, необходимым для расчётов искусственного интеллекта, необходимо также учитывать выбросы парниковых газов.
Хотя мобильные генераторы Маска, размещённые в суперкомпьютерном кластере Мемфиса, используют в качестве топлива природный газ (более чистый, чем уголь или нефть), они всё равно выбрасывают углерод в атмосферу во время работы.
ИТ-отдел заметил, что недавно Google сообщила, что её углеродный след увеличился на 48% с 2019 года из-за спроса на электроэнергию в центрах обработки данных.
Таким образом, можно предвидеть, что, если Маск не обратится к более чистым методам производства энергии, xAI столкнётся с той же проблемой.
Маск делает всё возможное, чтобы продвинуть xAI в качестве лидера в области разработки искусственного интеллекта, и с этой целью он сделает всё, что потребуется. Есть надежда, что использование мобильных генераторов является лишь временным решением. Суперкомпьютерному кластеру Мемфиса необходимо перейти на более чистую энергию. Администрация долины Теннесси может обеспечить эту энергию. Поскольку последняя использует комбинацию ядерной энергии, гидроэнергетики и ископаемого топлива для выработки электроэнергии, если xAI будет покупать электроэнергию у неё вместо того, чтобы полагаться на мобильные генераторы, использующие только природный газ, её углеродный след будет меньше.
