Толкователь выводов ИИ-моделей – новая профессия? ИИ делает всё больше. А объясняет всё меньше.

Как вам такая мысль?

ИИ все больше выполняет задач, берет на себя больше частей разных процессов, управляет рутиной.

Но прозрачность принятия решений снижается:

• Почему человеку отказали в кредите?
• Почему товар на маркетплейсе помечен как неприоритетный?
• Почему мне в рекомендациях дали эту книгу?

Как понять? На каких данных модель обучена? В чем их специфика? – это зона профессионального знания. Неочевидная и закрытая.

А потребность в прозрачности принятия решения ИИ моделью есть.

Как ее удовлетворять?

Толковать и делать процесс прозрачнее с помощью других ИИ. Модели, которые объясняют модели.

Про человека и технологии | Ядова Екатерина