Компания Google сообщила о новых виртуальных машинах Cloud TPU, которые упрощают обучение нейросетей и систем машинного обучения. Они предлагают новый и улучшенный пользовательский интерфейс для разработки и развертывания TensorFlow, PyTorch и JAX на облачных системах с тензорными процессорами TPU v4, о которых компания рассказала ещё в прошлом году.
Новинка позволяет создавать и обучать модель, используя одну виртуальную машину с тензорным процессором, а затем масштабировать её в рамках облака, используя все преимущества быстрого интерконнекта между TPU. Всё это позволяет ускорить работу, а также даёт полный доступ к каждой виртуальной машине.
Как отмечается, ранее можно было получать доступ к Cloud TPU только удаленно. Обычно клиенты создавали одну или несколько виртуальных машин, которые подключались к хост-машинам с Cloud TPU по сети посредством gRPC. Теперь же виртуальные машины работают непосредственно на хостах с тензорными процессорами, то есть они напрямую подключены к ускорителям. Это позволяет обойтись без затрат времени на передачу данных от хоста к клиенту и обратно.
