Что такое объяснение— искусство, или возможна технология? Наверняка, в своей жизни вы сталкивались с ситуацией, когда что-то пытались объяснить другому человеку и, несмотря на ваши искренние старания, это сделать не получилось. И конечно же встречали людей, которые здорово умели объяснять, казалось они могут рассказать про что угодно ясно и понятно. Я тоже встречался с такими людьми, у меня они вызывали восхищение и хотелось воскликнуть — “Ну как он это делает! Это непостижимое искусство.” И меня...

Источник: Nuances of Programming Техники объяснения модели показывают, что изучает модель, а знание о том, что происходит внутри модели имеет большое значение. На протяжении последних десяти лет я общался со многими специалистами по Data Science, а техники объяснения модели — это моя любимая тема, с помощью которой можно отличить хорошего ученого. Некоторые считают, что модели машинного обучения — это черные ящики, необходимые для создания предсказаний, но не доступные для понимания в остальном...