Мета-процессор искусственного интеллекта
Meta, материнская компания Facebook, Instagram и WhatsApp, активно разрабатывает собственные процессоры искусственного интеллекта (ИИ), чтобы расширить свои возможности ИИ и снизить зависимость от стороннего оборудования, такого как графические процессоры Nvidia. Усилия компании являются частью более широкой тенденции среди технологических гигантов по созданию специализированных микросхем, оптимизированных для конкретных рабочих нагрузок, особенно в связи с тем, что приложения искусственного интеллекта становятся все более важными для их услуг. Специально разработанные процессоры искусственного интеллекта Meta, известные как Meta Training and Inference Accelerator (MTIA), являются частью семейства микросхем, предназначенных для рабочих нагрузок вывода, которые имеют решающее значение для приложений искусственного интеллекта, которые применяют изученные возможности к новым данным. MTIA разработан для обеспечения большей вычислительной мощности и эффективности, чем традиционные процессоры, и настроен для внутренних рабочих нагрузок Meta.Чип MTIA изготавливается TSMC по 7-нм техпроцессу и работает на частоте 800 МГц. Он использует архитектуру набора команд RISC-V (ISA), которая является альтернативой с открытым исходным кодом архитектурам x86 и ARM. Чип предназначен для обработки больших объемов одновременных операций, часто с использованием арифметики низкой точности, что обычно достаточно для рабочих нагрузок ИИ и позволяет выполнять больше вычислений на ватт мощности. Специальная программа Meta отражает продолжающийся переход от процессоров общего назначения к специализированным микросхемам, оптимизированным для конкретных задач. Компания создает специальное оборудование с использованием графических процессоров с 2016 года, но начала работать над собственными чипами в 2020 году, когда поняла, что графические процессоры не всегда оптимальны для выполнения конкретных рабочих нагрузок, рекомендованных Meta, с желаемым уровнем эффективности. В дополнение к MTIA, Meta представила Meta Scalable Video Processor (MSVP), ASIC, предназначенный для ускорения потокового вещания в реальном времени и видео по запросу (VOD). Чип MSVP будет специализироваться на кодировании видеоконтента как при производстве, так и при доставке, что является серьезной проблемой для таких платформ, как Facebook, которые обслуживают миллиарды просмотров видео в день. Переход Meta на использование собственных чипов может привести к существенной экономии, потенциально сокращая ежегодные расходы на электроэнергию на сотни миллионов долларов и сокращая закупки чипов у сторонних производителей. Внедрение процессоров Artemis не только оптимизирует энергопотребление центров обработки данных Meta, но также освободит популярные процессоры Nvidia H100 для обучения искусственному интеллекту. Амбиции компании не ограничиваются Artemis и ускорением вывода. Сообщается, что Meta разрабатывает более сложный процессор, способный выполнять рабочие нагрузки по обучению искусственного интеллекта, аналогичный графическим процессорам Nvidia H100. Эта инициатива является частью более широкой стратегии Meta по разработке собственных микросхем, чтобы уменьшить зависимость от процессоров Nvidia, хотя Meta не планирует полностью исключать графические процессоры Nvidia из своих центров обработки данных. Разработки Meta в области инфраструктуры искусственного интеллекта, включая чипы MTIA и MSVP, являются частью амбициозного плана по созданию следующего поколения инфраструктуры искусственного интеллекта Meta. Эти усилия позволят компании разрабатывать более крупные и сложные модели ИИ и эффективно развертывать их в масштабе, что имеет решающее значение для долгосрочного видения компании метавселенной и ее приложений, основанных на ИИ
Meta создает свой первый специальный чип специально для запуска моделей искусственного интеллекта, сообщила команда. Поскольку Meta расширяет свои усилия в области искусственного интеллекта (генеральный директор Марк Цукерберг недавно заявил, что компания видит «возможность познакомить миллиарды людей с агентами искусственного интеллекта способами, которые будут полезными и значимыми»), чип и другие инфраструктурные планы, о которых было объявлено в четверг, могут стать критически важными инструментами для Meta. конкурировать с другими технологическими гигантами, также инвестирующими значительные ресурсы в искусственный интеллект.
Новый чип MTIA компании Meta, который расшифровывается как Meta Training and Inference Accelerator, представляет собой «собственное семейство микросхем-ускорителей, предназначенных для рабочих нагрузок вывода», — написал в своем блоге вице-президент Meta и руководитель инфраструктуры Сантош Джанардхан. Чип, очевидно, обеспечивает «большую вычислительную мощность и эффективность», чем процессоры, и «настроен под наши внутренние рабочие нагрузки». По словам Джанардана, благодаря сочетанию чипов MTIA и графических процессоров, Meta верит, что «мы обеспечим лучшую производительность, уменьшим задержку и большую эффективность для каждой рабочей нагрузки».
MTIA может стать большим благом для Meta, особенно с учетом растущего спроса на вычислительные мощности ИИ. Но до чипа MTIA, похоже, еще очень далеко: он появится не раньше 2025 года, сообщает TechCrunch.
В дополнение к MTIA, Meta также представляет новый ASIC, специально предназначенный для помощи в перекодировании видео, который называется MSVP или Meta Scalable Video Processor. Он предназначен для поддержки как «высококачественного транскодирования, необходимого для VOD, так и низкой задержки и более быстрого времени обработки, которое требуется для потоковой передачи в реальном времени», и «в будущем» это поможет улучшить ситуацию. например, контент, созданный искусственным интеллектом, а также контент, специфичный для AR и VR, для приложений Meta.
Meta также работает над «проектом центра обработки данных следующего поколения», который будет «оптимизирован для искусственного интеллекта» и «более быстрым и экономичным в построении», сказал Джанардхан, и компания также рекламировала мощь своего Research SuperCluster (RSC). ) Суперкомпьютер с искусственным интеллектом, «который, по нашему мнению, является одним из самых быстрых суперкомпьютеров с искусственным интеллектом в мире». Это не совсем новая риторика о RSC от Meta; Компания с прошлого года высоко оценивает суперкомпьютер . Но поскольку компания пытается выделиться на фоне растущего числа инициатив в области искусственного интеллекта со стороны многих крупнейших технологических гигантов, включая другие специальные чипы , имеет смысл, что Meta захочет похвастаться своей верой в собственное оборудование искусственного интеллекта.