1016 подписчиков
Сегодня пост для мажоров. 👑
NVIDIA выкатили Chat with RTX.
Это как ChatGPT, но прямо у вас дома, без интернета и расходов на токены.
Теперь любой, у кого завалялась GeForce RTX 30 серии и выше, c 8+ Gb VRAM, сможет запустить локальную обработку данных.
Можно настроить чат-бота, используя свои данные и файлы, хранящиеся на компьютере.
При помощи технологии retrieval-augmented generation (RAG), программного обеспечения NVIDIA TensorRT-LLM и ускорения RTX, "Chat with RTX" обеспечивает быстрые и контекстно релевантные ответы.
Приложение поддерживает различные форматы файлов, включая .txt, .pdf, .doc/.docx и .xml, а также интегрирует информацию из видео на YouTube.
Для работы требуется видеокарта RTX 3000 или 4000 серии с минимум 8 Гб видеопамяти, а также 16 гигабайт оперативной памяти, а также Windows 11.
Скачать Chat with RTX можно с официального сайта Nvidia
Около минуты
14 февраля 2024