Пока все считают параметры в новых LLM, настоящая битва идет в кремнии. Google выкатила TPUx — чип, созданный специально под инференс. Обучить модель — это разовая боль. А вот отдавать ответы миллионам пользователей ежедневно стоит колоссальных денег. TPUx должен ускорить этот процесс и сбить косты. GPU-лихорадка продолжается, и кормить монополию NVIDIA никому не хочется. Свои серверные стойки ближе к телу. — Источник: wsj.com