110 подписчиков
Один локальный ИИ-шлюз вместо множества отдельных подключений
В каталоге HOSTKEY появилась платформа OmniRoute — бесплатный шлюз с открытым исходным кодом для работы с моделями искусственного интеллекта (ИИ), который можно развернуть локально на своем сервере.
Платформа OmniRoute дает единую конечную точку (endpoint), совместимую с интерфейсом OpenAI, и может маршрутизировать запросы между разными поставщиками и моделями искусственного интеллекта. Она также поддерживает переключение на резервные модели (fallback), управление квотами и локальную работу через собственную инфраструктуру.
OmniRoute прежде всего подойдет тем командам, которые используют несколько сервисов на основе искусственного интеллекта, ведь она снижает количество отдельных интеграций и дает больше контроля над тем, как и куда идут запросы.
Платформа OmniRoute доступна в HOSTKEY.
Подробнее →
Около минуты
9 ноября