Стало известно, что Oracle Cloud Infrastructure (OCI) анонсировала запуск нового суперкластера, который будет использовать тысячи графических процессоров AMD Instinct MI300X. Эта новость не только укрепляет позиции обеих компаний на рынке, но и открывает новые возможности для обработки сложных задач в области искусственного интеллекта.
Графические процессоры MI300X представляют собой настоящую находку для облачных провайдеров. Oracle заявила, что новый суперкластер OCI BM.GPU.MI300X.8 сможет поддерживать до 16 384 графических процессоров одновременно. Это впечатляющее количество позволяет обрабатывать массивные модели ИИ, которые содержат миллиарды параметров. Для сравнения, такие объемы данных требуют колоссальных вычислительных ресурсов, и именно здесь MI300X может показать свои сильные стороны.
Технология, использованная в этом суперкластере, обеспечивает высокую скорость и пропускную способность. Например, система оснащена 1,5 ТБ памяти HBM3 GPU и 5,3 ТБ/с пропускной способностью, что позволяет эффективно выполнять масштабное обучение. Oracle активно тестировала MI300X в реальных условиях, и результаты оказались впечатляющими. Для модели Llama 2 70B графический процессор показал задержку в 65 миллисекунд, что является отличным показателем для таких задач.
Эндрю Дикманн, вице-президент AMD, отметил, что решения компании продолжают набирать популярность среди облачных провайдеров. Интеграция MI300X в платформу OCI позволит клиентам использовать высокопроизводительные решения с минимальными затратами. Oracle предлагает свои услуги по цене 6 долларов за GPU в час, что делает их доступными для широкого круга пользователей.