Nvidia втрое ускорила работу ИИ на видеокартах GeForce RTX

Nvidia отмечает, что последние оптимизации нацелены на ускорение работы ряда больших языковых моделей (LLM) использующихся генеративным ИИ.3DNews
Оба инструмента используются для запуска ИИ-моделей в среде операционной системы Windows.3DNews
В тестах производительности ORT, генеративного расширения искусственного интеллекта, выпущенного Microsoft, новый драйвер Nvidia приводит к приросту производительности по всем направлениям, как для типов данных INT4, так и для FP16.3DNews
Благодаря большому количеству результатов (48 миллионов), график наглядно демонстрирует динамику изменений производительности графического процессора с 2016 года.Регионы России