Стартап Inferact привлек значительные инвестиции в раунде, возглавленном крупными фондами, на фоне бума инференса в ИИ. Технологии вроде vLLM и SGLang, ускоряющие развертывание моделей, оцениваются в сотни миллионов долларов.
Раунд финансирования возглавили Andreessen Horowitz и Lightspeed Venture Partners, что подтверждает предыдущие сообщения TechCrunch о привлечении vLLM капитала от a16z.
Дебют Inferact перекликается с недавней коммерциализацией проекта SGLang под брендом RadixArk, который, по нашим источникам, привлек капитал с оценкой в 400 миллионов долларов под руководством Accel, как мы сообщали в среду.
Поскольку фокус в сфере искусственного интеллекта смещается с обучения моделей на их развертывание в приложениях — процесс, известный как инференс, — технологии вроде vLLM и SGLang, позволяющие этим ИИ-инструментам работать быстрее и экономичнее, привлекают внимание инвесторов.
И vLLM, и SGLang были инкубированы в 2023 году в лаборатории соучредителя Databricks Иона Стоицы в Калифорнийском университете в Беркли.
Генеральный директор Inferact Саймон Мо, один из изначальных создателей проекта, сообщил Bloomberg, что среди существующих пользователей vLLM — облачный сервис Amazon и приложение для покупок.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Marina Temkin