LiteRT-LM — язык для больших моделей на вашем устройстве 🚀
Google представил LiteRT-LM — мощный open-source фреймворк, который позволяет запускать большие языковые модели прямо на «крайних» устройствах: смартфонах, ноутбуках, Raspberry Pi и даже на умных часах. Теперь не нужно отправлять данные в облако — всё работает локально с высокой производительностью благодаря аппаратному ускорению (GPU, NPU). Поддерживается множество моделей и языков, есть функции для работы с картинками и звуком, а также вызов функций из моделей, что открывает новые возможности для приложений и автоматизации. Отличный шанс попробовать передовые технологии AI на своём устройстве!
#AI #Модели #OpenSource #Google #Программирование #Инновации #EdgeComputing #LiteRTLM
https://github.com/google-ai-edge/LiteRT-LM
https://vlad1kudelko.github.io/
