Компания Nvidia представила свой чат бот с искусственным интеллектом «Чат с RTX», который работает на ПК с графическими процессорами RTX 30 и 40. Чат-бот работает без интернета. Chat With RTX использует программное обеспечение NVIDIA TensorRT-LLM & Retrival Augmented Generated, которое представили для ПК с Windows в прошлом году. Минимальный объемом видеопамяти для использования нейросети составляет 8Гб.
После бесплатного подключения Chat With RTX, пользователи могут выполнять различные запросы, но полученные результаты будут полностью основаны на конкретном наборе данных, что дает вам лучшие ответы по сравнению с онлайн Chat GPT. Также в чат-бот можно добавлять определенные URL-адреса, например, видео из YouTube, для улучшения результатов поиска. Так как у графического процессора NVIDIA RTX есть поддержка TensorRT-LLM, то все ваши данные и проекты будут доступны локально. Это дает более точные результаты. Я считаю, что это гениальная идея для того, что бы переманить покупателя на сторону NVIDIA. А как вы считаете? Напишите свое мнение в комментариях.