Пока все гонятся за мощными видеокартами, Google пошёл другим путём — они создали TPU (Tensor Processing Unit). Это не просто видеокарта, это новый класс вычислительных чипов, специально заточенных под искусственный интеллект. Разберёмся, что это за зверь и почему он важен. TPU — это специальный чип, разработанный компанией Google исключительно для задач машинного обучения. В отличие от универсальных GPU, он не предназначен для игр или 3D-графики. Он не умеет «всё». Зато то, что умеет — делает в разы быстрее и эффективнее...

В чём разница между GPU и TPU при обучении больших моделей на основе трансформеров? Лучшие GPU и TPU с бенчмарками И GPU, и TPU играют важную роль в ускорении обучения больших моделей на основе трансформеров, но их основные архитектуры, профили производительности и совместимость с экосистемами приводят к значительным различиям в сценариях использования, скорости и гибкости. Архитектура и аппаратные основы TPU — это специализированные интегральные схемы (ASIC), разработанные компанией Google специально для высокоэффективных матричных операций, требуемых большими нейронными сетями. Их конструкция...