NVIDIA обновила комплект программного обеспечения ChatRTX для развёртывания локального чат-бота, сообщает TweakTown. В числе нововведений пользовательский интерфейс, построенный с использованием фреймворка Electron и дизайн-системы Material. Интерфейс выглядит просто и лаконично, акцентируя внимание пользователя на доступных моделях искусственного интеллекта (ИИ), данных и инструментах взаимодействия с чат-ботом. Изменения не только внешние, «архитектура» нового пользовательского интерфейса открыта, что позволит сторонним разработчикам расширять возможности ChatRTX, создавая различные надстройки.
Источник изображения: Caspar Camille Rubin, Unsplash
С момента дебюта NVIDIA ChatRTX значительно улучшился: увеличилось количество доступных ИИ моделей, появились модели для распознавания изображений и речи, возможность «расшаривать» для ИИ различные документы. Были внедрены различные оптимизации для повышения производительности, помимо того, что комплекты ИИ модели уже оптимизированы для запуска на видеокартах NVIDIA с помощью TensorRT-LLM.
Для работы NVIDIA ChatRTX потребуется видеокарта GeForce RTX 30 или 40 с объёмом видеопамяти не менее 8 ГБ.