1241 подписчик
TensorRT-LLM для Windows ускоряет производительность генеративного искусственного интеллекта на графических процессорах GeForce RTX.
Nvidia разрабатывает новое программное обеспечение, которое улучшит опыт использования искусственного интеллекта на графических процессорах GeForce и RTX. Библиотека TensorRT-LLM ускорит работу с генеративными алгоритмами и увеличит производительность моделей, таких как Llama 2 и Code Llama, до 4 раз. Она будет доступна для загрузки на сайте Nvidia. Кроме того, TensorRT поднял уровень качества изображений и видеопотоков благодаря функциям графических процессоров RTX. Это достигается благодаря технологии "AI pixel processing", которая улучшает качество видео и уменьшает артефакты при его воспроизведении.
Около минуты
19 октября 2023