Conduit - единый Swift SDK для LLM инференса
Conduit — это типобезопасный фреймворк Swift для работы с облачными и локальными языковыми моделями через единый API.
Что это вам даёт:
• Быстрый локальный инференс: оптимизирован для Apple Silicon с первоклассной поддержкой MLX
• Типобезопасный структурированный вывод: макросы Swift 6 проверяют сгенерированные формы во время компиляции
• Одна поверхность для нескольких поставщиков: переключение между моделями Claude, GPT-4o и локальными моделями осуществляется с помощью небольшого изменения конфигурации
• Провайдеры на основе акторов: модель параллельного выполнения остаётся явной и потокобезопасной
Conduit на GitHub: https://github.com/christopherkarani/Conduit
Платформа: iOS
⭐️: 96
👨🦯➡️ AppFiles: код, инструменты, практики, производительность
