Компания IBM представила совершенно новую архитектуру чипов, которая позволит системам, работающим с задачами на основе искусственного интеллекта, масштабироваться для сохранения высокой энергоэффективности. Новый чип получил название NorthPole и является усовершенствованной моделью чипа TrueNorth 2014 года. По словам представителей IBM, новый чип примерно в 4 000 раз быстрее TrueNorth благодаря значительному повышению энергоэффективности, экономии места и задержек.
IBM сообщила, что эта передовая архитектура создана на 12-нанометровом техпроцессе и сопоставима с 14-нанометровыми процессорами и 12-нанометровыми графическими процессорами. В качестве доказательств своих слов, компания отметила, что при использовании нейронной сети ResNet-50 чип NorthPole в 25 раз более энергоэффективен, чем существующие чипы. Инженеры IBM смогли это выяснить по количеству обработанных кадров на джоуль затраченной мощности. Кроме того, он превосходит существующие технологии по занимаемой вычислительной мощности. Данное сравнение основано на количестве обработанных кадров на миллиард транзисторов. IBM также утверждает, что он более энергоэффективен, чем нынешние 4-нм графические процессоры, то есть последнего оборудования Nvidia, поскольку чипы AMD в настоящее время изготавливаются по 5-нм техпроцессу.
NorthPole изготовлен по 12-нм техпроцессу с 22 миллиардами транзисторов. Источник: IBM.
Одной из главных целей разработки NorthPole, по словам представителей IBM, было устранение "узкого места фон Неймана". Это явление существует с момента изобретения центральных процессоров и представляет собой компромисс, обусловленный конструкцией микросхем, в которых память и процессоры являются дискретными компонентами, поэтому данные должны постоянно перемещаться между ними. В NorthPole память является частью самого чипа, а не подключается через интерфейс, как это происходит в других микросхемах. Разработчики назвали такой подход "network-on-a-chip". По словам IBM, эта конструкция позволяет чипу выполнять задачи с помощью искусственного интеллекта быстрее, чем любой другой существующий чип.
NorthPole — это физически большой чип, его площадь составляет 800 мм2, в котором используется всего 22 миллиарда транзисторов. Для сравнения: кристалл GH100, который используется в флагманском ИИ-ускорителе Nvidia, имеет площадь 814 мм2, но использует 80 миллиардов транзисторов. NorthPole имеет 256 ядер, которые могут выполнять 2048 операций на ядро за цикл с 8-битной точностью, причем эти цифры удваиваются по мере снижения точности. Единственная проблема NorthPole заключается в том, что из-за ограничений по объему памяти микросхемы, он не способен запускать модели, требующие большего объема памяти, такие как GPT-4. IBM предлагает решение этой проблемы - разделение более крупных сетей на подсети, которые могут быть выполнены на чипе NorthPole, а затем объединение нескольких чипов в одну систему. Следует также отметить, что из-за этого ограничения чип NorthPole предназначен исключительно для выполнения вывода и не может использоваться для обучения больших языковых моделей, как это делают графические процессоры Nvidia, Intel или AMD.
Учитывая недостатки и преимущества нового чипа, можно с уверенностью сказать, что он значительно удобнее в использовании. Вероятно, он не так сильно нагревается, как H100 от Nvidia, и может охлаждаться с помощью только вентилятора и радиатора, а также может размещаться в более компактных корпусах, чем существующие ИИ-ускорители. Этому способствует и тот факт, что он построен по 12-нм техпроцессу, но, как утверждает команда, создавшая этот процессор, его зрелый техпроцесс также дает будущим версиям большой потенциал для развития, поскольку IBM в настоящее время исследует технологии производства по 2-нм техпроцессу.