Новая разработка NVIDIA представляет собой чат-бот в духе популярных решений вроде ChatGPT. Вместо удалённого сервера новинка использует видеокарту семейства GeForce RTX, установленную в компьютере пользователя. Ещё одним важным отличием «зелёного» ИИ от аналогов стала возможность доступа к локальным файлам на ПК.
Чтобы воспользоваться возможностями чат-бота, необходимо загрузить и установить его клиент, а затем дать разрешение на доступ к хранящимся на устройстве данным (документы, видео и другие файлы). Для генерации ответов на вопросы Chat with RTX пользуется как языковыми моделями (например, Mistral или Llama2), так и онлайн ресурсами вроде YouTube.
Компания отмечает, что сейчас чат-бот доступен только в формате демонстрационной версии и работает не во всех регионах. Для его использования необходима видеокарта серии GeForce RTX 30 или RTX 40 с объёмом видеопамяти от 8 ГБ. Более подробно о возможностях Chat with RTX можно узнать на официальном сайте NVIDIA.
