2378 подписчиков
Технологический мир (и финансисты) ожидает чего-то феноменального от скорого очередного отчета Nvidia (для многих производимые ими GPU представляются единственной возможной аппаратной платформой для вычислений, используемых в ИИ-продуктах). Но вот, не успели еще все переварить достаточно сенсационные запуск Sora, как стали множиться сообщения о компании Groq (не путать с масковским ИИ, который оканчивается на k).
Эта компания не новичок в области создания специфического железа, но сейчас они заявили о резком ускорении ответа LLM, если для инференса использовать не привычные GPU, а их собственные LPU, Language Processing Units.
Два интересных момента:
1. Кажется, еще один шажок к тому, чтобы ИИ смог хорошо и быстро работать на обычных пользовательских устройствах
2. Эра ИИ порождает интереснейшие стартапы, бросающие вызов гигантам, не только в области софта:)
Около минуты
20 февраля 2024