Компания Meta* заявила о запуске нового набора ИИ-инструментов — Python-фреймворка AITemplate (AIT). Новый фреймворк позволяет не только оптимизировать модели, но и поддерживает конвертацию с Python на C++, благодаря чему повышается итоговая производительность.
По данным портала Semiaccurate.com, новая платформа позволит быстрее исполнять код ускорителем NVIDIA A100 для моделей BERT и ResNet-50, в среднем — со скоростью от 2Х до 12Х в сравнении с PyTorch. В случае с AMD Instinct MI250 обеспечено ускорение в 1,5-2 раза, но даже это очень много, если речь идёт о масштабах компаний вроде Meta*.
При этом Meta* полностью открыла исходный код AITemplate, который можно бесплатно загрузить здесь для дальнейшего свободного использования в соответствии с лицензией Apache 2.0. Для работы требуется CUDA 11.6 или ROCm 5.2.3. В дальнейшем Meta* намерена поддерживать 90-дневный релизный цикл.
Источник изображения: Semiaccurate
Отметим, что ещё в марте выяснилось, что Qualcomm предлагала Meta* стать основным покупателем первого серверного ИИ-чипа — Cloud AI 100. Взвесив возможности программного обеспечения, поставляемого с новым чипом, техногигант принял решение по-прежнему использовать уже применяемые ей аппаратные платформы. Теперь выяснилось, что у Meta* имеется универсальное решение, позволяющее эффективно использовать аппаратные решения как AMD, так и NVIDIA.
* Внесена в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».
Больше интересных новостей на сайте Servernews:
• Всего за сутки Alphabet, Amazon, Apple, M**a, Microsoft и Tesla потеряли $258 млрд рыночной стоимости
• Впервые за свою историю M**a намерена сократить штат и существенно снизить расходы
• Европейские провайдеры потребовали привлечь M**a, Google и других IT-гигантов к строительству сетей связи
