2 недели назад
WebLLM: ИИ в браузере сотрудника, тексты не уходят в облако
Коротко. WebLLM это открытая библиотека, которая запускает языковую модель в браузере на видеокарте самого компьютера через WebGPU. Лицензия Apache 2.0, последний релиз 0.2.86 вышел 11 октября 2026 года. Юристам, бухгалтерам, кадровикам и клиникам она даёт помощника без отправки текстов в чужое облако и без сервера с видеокартой. Модели небольшие, весят от 0,7 до 4,5 ГБ, на старых офисных ПК не пойдут, и у каждой своя лицензия. Сам WebLLM я не запускал, всё ниже проверено по репозиторию и документации...