Компания Nvidia увидела повышенный интерес к искусственному интеллекту и решила составить конкуренцию остальным технологическим компаниям. Вчера Nvidia представила своего чат-бота на основе искусственного интеллекта под названием Chat with RTX. Воспользоваться его услугами смогут только владельцы видеокарт Nvidia 30 и 40 серии. Зеленая команда сразу предупреждает пользователей, что это «демо», поскольку это только версия 0.2 и все еще находится на стадии бета-тестирования. Тем не менее вы можете потестировать нового чат-бота и ознакомиться со всеми его возможностями, ведь возможности у Nvidia практически неограниченные. Новое приложение позволяет вам запускать чат-бота прямо на вашем компьютере вместо необходимости подключения к чужому «облаку» для обеспечения необходимой мощности и доступа к моделям искусственного интеллекта, как в случае с Microsoft Copilot. Преимущества такого подхода – это более высокая скорость отклика и повышенная конфиденциальность данных. Однако эта технология все еще находится на очень ранней стадии, поэтому преимущества пока довольно ограниченны.
Nvidia открыла доступ к своей программе Chat with RTX для всех, кто хочет ее потестировать, поэтому все, что вам нужно, это видеокарта 40 или 30 серии, 8 ГБ оперативной памяти и Windows 11. Многие пользователи уже успели с ней ознакомиться и отметили, что установочные файлы "весят" 35 ГБ. При установке программы потребуется 100 ГБ свободного места на накопителе, что соответствует уровню AAA-игр. Установка занимает от 30 минут до часа в зависимости от вашего "железа", так что имеет смысл запустить ее в фоновом режиме. Непонятно, почему "демо-версия" не работает с видеокартами RTX 20 серии, которые имеют необходимые тензорные ядра. Возможно, их просто недостаточно, так как генеративный ИИ не был актуален, когда эти видеокарты были выпущены шесть лет назад.
Вы можете использовать Chat with RTX так же, как ChatGPT или Copilot. Преимущество заключается в более быстрых ответах, поскольку он работает локально.
Учитывая статус бета-версии программы, не удивительно, что Nvidia предоставляет доступ только к одной большой языковой модели, которую Nvidia называет Mistral. Вы можете отправлять модели почти любые запросы, а она быстро их обрабатывает, причем главное преимущество заключается в том, что она может извлекать данные как из интернета, так и из сложных документов, которые вы отправляете, включая PDF и даже видео на YouTube. Nvidia утверждает, что ИИ-модель также может выполнять языковой перевод, хотя, по отзывам пользователей, такой функции пока не существует в программе. В целом, по словам тестировщиков, при сравнении с ChatGPT новый бот Chat with RTX показал схожие результаты, но в целом оказался менее продвинутым. Например, выяснилось, что Chat with RTX игнорирует некоторые части запросов, в то время как ChatGPT без проблем выполняет все указания.
В настоящее время основным преимуществом Chat with RTX является обобщение текстовых файлов (PDF, Doc, txt) и видеороликов YouTube, а также ответы на вопросы о содержании больших файлов или ссылок. Давайте будем честными, мы все любим интересные 18-минутные видеоролики про компьютерное железо, но никто не откажется от краткого описания содержимого видеоролика в текстовом виде. Сообщается, что Chat with RTX довольно искусно справляется с резюмированием видеороликов, однако результаты были неоднозначными при обработке PDF-файла, что говорит о сырости программы. К примеру, по словам одного пользователя, Chat with RTX точно описал содержимое видеоролика на YouTube и ответил на вопросы о нем. Однако, получив PDF-файл, он давал неточные ответы и не понимал последующие вопросы.
На данный момент Chat с RTX выглядит как забавный инструмент для экспериментов. Также стоит отметить, что Nvidia опередила своего конкурента AMD в этой области. Появление искусственного интеллекта на локальных устройствах запланировано на 2024 год, и Nvidia заслуживает похвалы за то, что здесь она опередила конкурентов. Однако, поскольку новые процессоры AMD и Intel теперь оснащены нейронными процессорами (NPU), можно задаться вопросом, не начнется ли борьба внутри наших компьютеров за то, какой аппаратный блок будет запускать тот или иной искусственный интеллект.
