Есть мнение, что адаптивное квантование несовместимо c постоянным режимом квантования CQP. К сожалению, адекватного ответа я так и не нашел в различных источниках, поэтому провел небольшое исследование на примере использования Psyho Visual Tuning в NVENC.
Не хочу вас обременять тонной непонятного текста, поэтому объясню чуть проще.
При выборе CQP вы говорите кодировщику, что хотите определенное качество, заданное числовой переменной. Кодировщик будет выделять столько битрейта, чтобы соответствовать заданному качеству, от десятков Кбит/с до сотен Мбит/с. CQP обычно выбирают, когда имеет значение только качество видео, а не размер файла.
Psyho Visual Tuning в NVENC - это параметр, который перераспределяет битрейт при кодировании, улучшая определённые области в кадре, но жертвуя другими фрагментами для улучшения субъективного качества.
Psyho Visual Tuning использует сразу два режима адаптивного квантования, пространственное и временнóе, которые работают автоматически.
В теории возникает конфликт. При CQP битрейта выделяется столько, чтобы строго соответствовать заданному качеству, но в дело вмешивается адаптивное квантование, которое вносит свои корректировки в распределение битрейта (точнее в QP), что противоречит CQP.
Результаты на практике
Я записал два одинаковых фрагмента видео из Battlefield 4, используя две копии OBS, указав CQP 38. В одном видео включена корректировка, в другом нет.
Проанализировав файлы в Elecard StreamEye сразу можно заметить объективную разницу в файлах.
Обратите внимание на синюю горизонтальную линию на гистограмме, которая отображает степень квантования (QP) для каждого кадра. Так вот при отключенной корректировке QP абсолютно статичен. QP видео на скриншоте составляет ровно 38, ни больше, ни меньше.
Теперь рассмотрим второе видео, где включена корректировка.
Как можно заметить, степень квантования кадров теперь неоднородна, а это означает, что психовизуальная корректировка работает и изменяет степень квантования каждого кадра, влияя на их качество. Теперь QP видео составляет qp max 41 / qp min 34 / avg 36,76.
Что касается визуального сравнения видео, то разница также хорошо заметна.
В видео с включенной корректировкой меньше проявляются блочности и артефакты в однородных областях, что является признаком работы пространственного квантования (Spatial AQ).
Вывод
AQ (адаптивное квантование) корректирует изменения QP при CQP, незначительно отклоняясь от целевого QP.
AQ совместимо с CQP, поэтому его следует использовать, чтобы улучшить качество видео. Сценарий использования, когда в адаптивном квантовании особого нет смысла, это запись видео без потерь.