Для некоторых людей термин “черный ящик” вызывает в памяти записывающие устройства в самолетах, которые полезны для посмертного анализа, если произойдет немыслимое. Для других это напоминает небольшой, минимально оборудованный кинотеатр. Но черный ящик также является важным термином в мире искусственного интеллекта. ИИ черные ящики относятся к системам искусственного интеллекта с внутренней работой, невидимой для пользователя. Вы можете передавать им входные данные и получать выходные данные, но вы не можете изучить код системы или логику, которая произвела выходные данные...

Искусственный интеллект может делать удивительные вещи, недоступные людям, но во многих случаях мы понятия не имеем, как системы ИИ принимают решения. Это и называется “черным ящиком систем ИИ”. Причины этого сильно различаются: Собственные разработки — внутренняя работа модели ИИ держится в секрете для защиты интеллектуальной собственности. Глубокое обучение. Глубокие нейронные сети и алгоритмы глубокого обучения создают тысячи (а иногда и миллионы) нелинейных отношений между входными и выходными данными...