Источник: Nuances of Programming Техники объяснения модели показывают, что изучает модель, а знание о том, что происходит внутри модели имеет большое значение. На протяжении последних десяти лет я общался со многими специалистами по Data Science, а техники объяснения модели — это моя любимая тема, с помощью которой можно отличить хорошего ученого. Некоторые считают, что модели машинного обучения — это черные ящики, необходимые для создания предсказаний, но не доступные для понимания в остальном...

Подгонять факты под однажды созданные шаблоны – это наш конек. Так что сколь бы ограниченными ни были наши знания, мы всегда будем считать, что их достаточно. Но важно не только себе в этом признаться, важно понять и то, как именно это происходит. Поговорим об этом в нашей новой статье. ⠀ Мы объясняем события определенным образом и часто потом обнаруживаем, что наши объяснения оказались абсолютно неверными. ⠀ Например, нам кажется, что начальник нас ценит, благоволит, отпускает в досрочный отпуск...