Метод позволяет разбить прогноз на части, выявить значение каждого признака и, проанализировав все элементы вектора, понять, какие факторы модели играют самую важную роль при выборе варианта решения.Хайтек+
Основной метод такого анализа – автоматизированный эксперимент, то есть перебор различных вариантов показателей с последующим анализом итоговых метрик.Хайтек+
· Partial Dependence Plots (PDP, графики частичной зависимости, PD-графики) – визуализируют корреляции между целью и выбранными признаками после того, как модель обучена.Хайтек+
· LIME (Local Interpretable Model-agnostic Explanations) – использует механизм локальной интерпретации моделей вместо попыток интерпретировать всю модель целиком.Хайтек+