Найти в Дзене

Технологический мир (и финансисты) ожидает чего-то феноменального от скорого очередного отчета Nvidia (для многих производимые ими GPU представляются единственной возможной аппаратной платформой для вычислений, используемых в ИИ-продуктах). Но вот, не успели еще все переварить достаточно сенсационные запуск Sora, как стали множиться сообщения о компании Groq (не путать с масковским ИИ, который оканчивается на k).

Эта компания не новичок в области создания специфического железа, но сейчас они заявили о резком ускорении ответа LLM, если для инференса использовать не привычные GPU, а их собственные LPU, Language Processing Units.
Два интересных момента:
1. Кажется, еще один шажок к тому, чтобы ИИ смог хорошо и быстро работать на обычных пользовательских устройствах
2. Эра ИИ порождает интереснейшие стартапы, бросающие вызов гигантам, не только в области софта:)

(А вот сайт самой компании, там интересно! — https://wow.groq.com/why-groq/ )
Около минуты