Opera открыла сайтам доступ к локальному ИИ. Сравниваем с WebLLM, разбираем ограничения устройств, приватность и пример проверки отчёта об ошибке. 27 октября Opera объявила ранний доступ к WebAI в Opera One. Сайты и расширения могут обращаться к модели на компьютере посетителя через API браузера. Для такой обработки разработчику не нужен свой сервер с ИИ, а пользователь не отправляет запрос облачному провайдеру. В анонсе Opera речь идёт о предварительной версии для определённых компьютеров. Обязательную функцию публичного сайта я бы на таком основании ещё не строил...

Opera готовит локальный ИИ в браузере: модели будут запускаться прямо на компьютере пользователя, а не на удалённых серверах. Для разработчиков и компаний это означает более приватную обработку данных, отсутствие платы за каждый запрос к API и ещё один аргумент в споре о том, обязательно ли любой ИИ-задаче нужен дата-центр. Функция основана на предложенном веб-стандарте WebAI, сообщает ZDNet. Opera планирует поставлять открытые модели вместе со своим флагманским браузером и дать сайтам с расширениями доступ к ИИ, работающему внутри браузера...