NVIDIA подготовила обновление ChatRTX до версии 0.3, сообщает Tom’s Hardware. Это комплект программного обеспечения для локального развёртывания собственного чат-бота. Обновление открывает множество новых возможностей, включая поиск фотографий и распознавание речи.
Источник изображения: NVIDIA
Инструменты поиска фотографий ChatRTX позволяют искать изображения без сложной маркировки метаданных, а понимать устную речь ChatRTX сможет благодаря поддержке системы распознавания речи Whisper. Также в новом обновлении реализована совместимость с ещё большим количеством языковых моделей, включая Gemma от Google и ChatGLM3-6B. В ChatRTX 0.3 пока не вернули возможность создания краткого пересказа содержания YouTube видео, которую удалили при исправлении найденной уязвимости безопасности.
ChatRTX использует мощь тензорных ядер NVIDIA и библиотеки TensorRT, которая используется для оптимизации моделей. На данный момент поддерживаются видеокарты GeForce RTX 30 и новее с объёмом видеопамяти не менее 8 гигабайт.
