Искусственная нейронная сеть – это компьютерная программа, функционирующая по принципу биологической нейронной сети живого организма. Она обучаема, умеет анализировать информацию и принимать решения. Но как именно сеть принимает окончательное решение, остаётся загадкой. Нейронная сеть лежит в основе искусственного интеллекта, который активно внедряется в сферы человеческой жизни, и важно понимать как он “мыслит”.
Исследователи MIT (Массачусетский технологический институт) создали модель нейронной сети, получившей название Transparency by Design Network (TbD-net), которая подобно человеку объясняет процесс принятия решения. Модель отвечает на вопросы относительно предметов, изображенных на картинке, и пошагово показывает свой мыслительный процесс.
Например, отвечая на вопрос “Какого цвета большой металлический куб на этом изображении?” нейронная сеть “мыслит” следующим образом. На первом шаге сеть выделяет крупные объекты. На втором – определяет какие из них являются металлическими. На третьем, какие из них куб. И на последнем шаге сеть определяет цвет объекта. Окончательный вывод – “красный”. И это правильный ответ на вопрос.
Почему учёные хотят понимать нейронные сети? Возьмем нейронную сеть, используемую в беспилотных автомобилях. Важно знать, как именно сеть различает пешехода и стоп-сигнал, и в какой точке цепи рассуждений она видит эту разницу. Это понимание позволит разработчикам научить нейронную сеть исправлять любые неверные предположения и усовершенствовать искусственный интеллект.