76 подписчиков
Hugging Face представили Gradio Lite для запуска AI-моделей прямо в вашем браузере.
Плюшки:
* Никаких серверов: всё работает локально на вашем компьютере. Это упрощает развёртывание AI-приложений, сокращает издержки на сервера, и упрощает возможность шарить свои приложения.
* Высокая скорость: данным не нужно ходить до серверов и обратно, что делает работу с приложениями быстрой и плавной.
* Приватность и безопасность: ваши данные не покидают компьютер и не шарятся с корпоратами для тренировки на них.
Кстати тут недавно вышел PyTorch 2.1 и там есть "distributed.checkpointing" для параллельного сохранения/загрузки моделей из множества ранков и решардинга если структура кластера поменялась (ноды выпали или прибавились). Посмотрим, может скрестят как.
Около минуты
24 октября 2023