Найти в Дзене
Герман Геншин
20 тыс подписчиков

Мы только что узнали кое-что удивительное о том, как проходило обучение Apple Intelligence.

1
1 мин
Новый исследовательский документ Apple показывает, что при обучении двух важнейших систем в рамках грядущего сервиса Apple Intelligence компания полагалась на тензорные процессоры (TPU) Google, а не на более распространенные GPU Nvidia. В документе отмечается, что Apple использовала 2 048 чипов Google TPUv5p для обучения своих моделей ИИ и 8 192 процессора TPUv4 для серверных моделей ИИ. Чипы Nvidia не зря пользуются большим спросом, заслужив репутацию производительных и эффективных вычислительных систем. Их продукты и системы обычно продаются как отдельные предложения, что позволяет заказчикам строить и эксплуатировать их по своему усмотрению. TPU от Google, напротив, доступны пользователям только как часть большого пакета облачных услуг компании. То есть вы не столько владеете TPU Google, сколько арендуете доступ к ним, поскольку клиенты должны разрабатывать свои модели ИИ в экосистеме Google Cloud. По мнению исследовательской группы, это требование к облаку сработало в пользу Apple.

Новый исследовательский документ Apple показывает, что при обучении двух важнейших систем в рамках грядущего сервиса Apple Intelligence компания полагалась на тензорные процессоры (TPU) Google, а не на более распространенные GPU Nvidia. В документе отмечается, что Apple использовала 2 048 чипов Google TPUv5p для обучения своих моделей ИИ и 8 192 процессора TPUv4 для серверных моделей ИИ.

Чипы Nvidia не зря пользуются большим спросом, заслужив репутацию производительных и эффективных вычислительных систем. Их продукты и системы обычно продаются как отдельные предложения, что позволяет заказчикам строить и эксплуатировать их по своему усмотрению.

TPU от Google, напротив, доступны пользователям только как часть большого пакета облачных услуг компании. То есть вы не столько владеете TPU Google, сколько арендуете доступ к ним, поскольку клиенты должны разрабатывать свои модели ИИ в экосистеме Google Cloud.

По мнению исследовательской группы, это требование к облаку сработало в пользу Apple. Они отметили, что возможность объединять TPU Google в кластеры позволила им задействовать необходимую вычислительную мощность для обучения моделей ИИ Apple и сделать это более эффективно, чем при использовании автономной системы.

Решение Apple использовать продукты Google является неожиданным, и не только из-за давнего соперничества двух компаний. Nvidia занимает доминирующее положение на рынке чипов для искусственного интеллекта, ее ускорители составляют от 70 до 95 % всех продаж.

Однако решение Apple можно рассматривать как признак того, что технологические компании стремятся отказаться от дорогих чипов Nvidia высокого класса. Например, компания Amazon недавно сообщила, что разрабатывает новую линейку чипов для искусственного интеллекта, которые якобы на 50 % мощнее, чем предложения Nvidia, и работают на 50 % меньше энергии.

Microsoft в мае объявила, что будет предлагать своим клиентам облачные сервисы, построенные на базе чипов искусственного интеллекта AMD, а не Nvidia, а Google сделала аналогичный шаг в апреле.

Если вам понравилась эта статья, подпишитесь на нее, чтобы не пропустить новые полезные статьи!

Вы также можете читать меня в: