Nvidia как и многие другие технологические компании пытается заработать на новом тренде - искусственном интеллекте. На этой неделе было представлено обновленное приложение с собственным чат-ботом компании под названием ChatRTX. Ранее в феврале Nvidia выпустила технологическую демо-версию под похожим названием Chat with RTX, которую за два месяца доработала и сократила ее название. Новая версия обеспечивает улучшенную производительность и новые функции, и теперь может бесплатно использоваться всеми владельцами графических процессоров RTX.
Главной особенностью ChatRTX является возможность обучить собственную большую языковую модель на локальном контенте на своем персональном компьютере. По словам Nvidia, вы можете "направить" ее на папку, полную файлов, а затем задать ей вопросы о внутреннем содержимом. Такой подход обеспечивает более быструю работу по сравнению с облачными сервисами вроде Microsoft Copilot или ChatGPT, однако локальная модель не имеет доступа к петабайтам данных интернета для формирования обширных ответов. Запуск приложения на своем компьютере также гарантирует, что все, что вы ей передаете, останется конфиденциальным, а не будет передаваться в чужое облако. Nvidia утверждает, что ChatRTX может обрабатывать файлы нескольких форматов, включая txt, pdf, doc/docx, jpg, png, gif и xml, поэтому вы можете направить ее на папки с этими файлами внутри, а затем задавать вопросы об обнаруженном контенте.
Приложение также поддерживает функцию преобразования речи в текст, позволяя задавать вопросы боту с помощью микрофона компьютера, при этом уже поддерживается несколько иностранных языков. Вы также можете использовать голосовые команды или текстовый ввод для сортировки папок с изображениями. Например, запрос "пешие походы в горах" извлечет на компьютере все фотографии с вашими походами. Это что-то вроде поиска Windows, но с продвинутой способностью распознавать содержимое изображений, а не только их имена файлов. По данным TechPowerUp, данную функцию удалось реализовать благодаря технологии CLIP (контрастное предварительное обучение язык-изображение), которую разработала OpenAI.
ChatRTX также предлагает обновленные языковые модели из предыдущей версии и несколько новых моделей на выбор пользователей. Обновлены модели Mistral 7B и Llama 2, добавлены модели Google Gemma и ChatGLM3, причем последняя поддерживает как английский, так и китайский языки. Добавлена возможность выбора различных языковых моделей при выполнении запросов - это важная функция, которая действительно отличает ChatRTX от других чат-ботов.
Несмотря на все перечисленные преимущества, сообщается, что новый чат-бот на данный момент умеет отвечать только на запросы по отдельным темам и испытывает трудности с уточняющими вопросами к предыдущим. Например, если вы попросили его найти фотографии походов, вы не сможете расширить или наоборот сузить этот поиск дополнительными запросами о том, что он вам показал, поскольку на данном этапе развития ему, по-видимому, сложно понимать взаимосвязь между вопросами и ответами.
Тем не менее, потестировать приложение можно бесплатно, если вас не пугает его внушительный размер 11,6 ГБ. Вы можете загрузить ChatRTX с сайта Nvidia по этой ссылке.
