Генеративный искусственный интеллект - это основной тренд в области персональных компьютеров, связанный с достижениями в области игр, креативности, видео, производительности, разработки и многого другого. Графические процессоры GeForce RTX и NVIDIA RTX, оснащенные специализированными процессорами искусственного интеллекта, называемыми тензорными ядрами, обеспечивают использование возможностей генеративного искусственного интеллекта более чем на 100 миллионах ПК и рабочих станций под управлением Windows.TensorRT-LLM для Windows - это библиотека с открытым исходным кодом, которая ускоряет производительность логического вывода для новейших моделей больших языков искусственного интеллекта (LLM), таких как Llama 2 и Code Llama. Это в 4 раза быстрее, чем предыдущая самая быстрая реализация. NVIDIA также выпустила инструменты, помогающие разработчикам ускорить работу LLM, включая скрипты, оптимизирующие пользовательские модели с помощью TensorRT-LLM, оптимизированные для TensorRT модели с открытым исходным кодом и справочный проект для разработчиков, демонстрирующий как скорость, так и качество ответов LLM.Ускорение TensorRT теперь доступно для стабильного распространения в популярном веб-интерфейсе с помощью Automatic1111 distribution. Это ускоряет модель распространения генеративного искусственного интеллекта до 2 раз по сравнению с предыдущей самой быстрой реализацией.Версия 1.5 RTX Video Super Resolution (VSR) доступна в последней версии драйвера Game Ready и будет доступна в следующем драйвере NVIDIA Studio, который выйдет в начале следующего месяца.
TensorRT-LLMLLM повышают производительность, участвуя в чатах, обобщая документы и веб-контент, составляя электронные письма и блоги, и лежат в основе новых систем искусственного интеллекта и другого программного обеспечения, которые могут автоматически анализировать данные и генерировать широкий спектр контента.TensorRT-LLM предоставляет разработчикам и конечным пользователям преимущества LLM, которые теперь могут работать в 4 раза быстрее на ПК с Windows на базе RTX. Это ускорение значительно улучшает возможности более сложного использования LLM, например, помощников по написанию и кодированию, которые выводят сразу несколько уникальных результатов автозаполнения. Результатом является ускоренная производительность и улучшенное качество, что позволяет пользователям выбирать лучшее из множества.Ускорение TensorRT-LLM также полезно при интеграции возможностей LLM с другими технологиями, такими как генерация с расширенным поиском (RAG), где LLM сопряжен с векторной библиотекой или векторной базой данных. RAG позволяет LLM предоставлять ответы на основе определенного набора данных, например электронных писем пользователей или статей на веб-сайте, для предоставления более целенаправленных ответов.Стабильная диффузияДиффузионные модели, такие как стабильная диффузия, используются для создания потрясающих, новых произведений искусства. Генерация изображений - это итеративный процесс, который может занять сотни циклов для достижения идеального результата. При выполнении на маломощном компьютере эта итерация может привести к многочасовому ожиданию.TensorRT удваивает скорость стабильной диффузии. Совместимый с самым популярным дистрибутивом WebUI от Automatic1111, Stable Diffusion с ускорением TensorRT помогает пользователям выполнять итерации быстрее и тратить меньше времени на ожидание на компьютере, быстрее доставляя конечное изображение. На GeForce RTX 4090 он работает в 7 раз быстрее, чем топовая реализация на компьютерах Mac с Apple M2 Ultra.RTX VSRИскусственный интеллект улучшает повседневную работу с ПК для всех пользователей. Потоковое видео является одним из самых популярных видов деятельности на ПК. Благодаря AI и RTX качество изображения стало еще лучше.RTX VSR - это прорыв в обработке пикселей с помощью искусственного интеллекта, который улучшает качество передаваемого видеоконтента за счет уменьшения или устранения артефактов, вызванных сжатием видео. Он также заостряет края и детали. Доступная сейчас версия RTX VSR 1.5 еще больше улучшает качество изображения благодаря обновленным моделям, устраняет артефакты, воспроизводимые в исходном разрешении, и добавляет поддержку графических процессоров RTX, основанных на архитектуре NVIDIA Turing.