65,5 тыс подписчиков

Безумие ИИ

3 минуты

2283 прочтения

24 декабря 2021

Решения на основе полной бессмыслицы

Популярная метафора, приводимая ИИ-энтузиастами, напоминает, что люди смогли «научить» самолеты летать, не уподобляясь машущим крыльями птицам. Вот и машинное обучение нейросетей, считают ИИ-энтузиасты, также способно обеспечить функции разума без 100%-го повторения способностей разума людей.

Ошибочность этого сравнения в том (говоря языком той же метафоры), что машинное обучение обеспечивает совсем иную способность, чем способность летать. Эта лишь на первый взгляд похожая способность – умение подняться выше уровня земли. И реализуется эта способность путем залезания на ближайшее дерево. Но полет – это далеко не только способность подняться над землей. И так же, как влезание даже на очень высокое дерево не способно обеспечить полета, машинное обучение в принципе не способно дать машине разум.

Недавно проведенное исследование MIT обнаружило, что нейронные сети, обученные на популярных бенчмарках, демонстрируют новый тип сбоя, называемый гиперинтерпретация или чрезмерная интерпретация (overinterpretation).

Суть этого сбоя в том, что алгоритмы машинного обучения делают уверенные прогнозы на основе информации, которая не имеет смысла для людей и не имеет отношения к решаемой задаче.

Посмотрите на изображения под заголовком поста.

Изображения в нижней строке отличаются от исходных изображений (верхняя строка):
-- на них отсутствует 95% исходного изображения;
-- и эти отсутствующие 95% изображения несут ВСЮ смысловую информацию для верной классификации изображения.
Тем не менее, сети классифицируют нижнюю строку изображений с достоверностью 90%+

Это значит, что сети, на самом деле, вовсе не учатся распознавать собаку или панду, а вместо этого могут распознать животное просто по типу травы на заднем плане.

Происходит это из-за того, что ИИ решает совершенно иные задачи, чем разум (как в метафоре – задачу подняться выше уровня земли, вместо задачи полета).

Цель разума – умение выбирать эффективные действия.

Это умение – ключевое эволюционное преимущество животных перед растениями, для обеспечения которого у животных появилась нервная система, а потом и мозг.

Как пишут про это Сломан и Фернбах в «Иллюзии знаний»:

Если бы мы эволюционировали в условиях, в которых вместо умения выбирать эффективные действия требовались бы какие-то другие способности, то человеческий разум, наверное, опирался бы на какую-то другую логику, отличную от существующей. Если бы наша эволюция проходила в мире, где вознаграждались бы победители в азартных играх, мы, вероятно, безошибочно рассуждали бы о плотности распределения вероятностей и об уравнениях статистики. Если бы мы эволюционировали в мире, в котором поощрялось бы дедуктивное мышление, мы все, подобно Споку, были бы виртуозами по части логических заключений. Но мы в большинстве своем не сильны в этих делах. Вместо этого мы развивались в мире, где правит логика действий, и именно поэтому такой вид мышления составляет основу того, что делает нас людьми.

Современный ИИ устроен совершенно иначе. Он учится на огромных массивах данных, выявляя в них ЛЮБЫЕ статистические особенности.

Не обладая пониманием решаемой задачи:

✔️ ИИ не способен отличать статистическую значимость от практической важности;

✔️ ИИ способен принимать решения на основании полной бессмыслицы (статистических закономерностей, не только не имеющих отношения к задаче, но и вообще ни к чему)

В коментах к моему недавнему посту об автономном оружии, некоторые разработчики ИИ (так они себя определяют) корили меня за незнание матчасти – мол, ребенка от низкорослого мужчины ИИ отличит лучше человека.

Исследование MIT, увы, говорит об ином. И куда худшем.

Из-за гиперинтерпретации автономный дрон-киллер способен классифицировать ребенка, как мужчину, на основе чего угодно: узора проплешин травы на газоне, тени деревьев на стене дома ... И такое решение автономного дрона-киллера будет окончательным.