Человек и ИИ. Граница.

Мы уже знаем: мозг и вселенная устроены по одному принципу. Вопрос в том, где в этой схеме находимся мы. В квантовой физике есть эксперимент, знакомый почти всем хотя бы по пересказам: если за электроном наблюдают, он ведёт себя как частица. Если не наблюдают — как волна. Обычно из этого делают вывод: наблюдатель влияет на наблюдаемое. Вывод верный, но слишком слабый. Бор пошёл дальше: он утверждал, что чёткая граница между наблюдателем и наблюдаемым вообще не существует как факт природы. Есть только место, где физики условно проводят эту черту для измерения — они называют это срезом...

В прошлый раз мы говорили о том, как ИИ провалил тест Струпа. Он не справился с тем, что человек делает легко: подавить автоматическое чтение слова и назвать цвет чернил. На коротких списках модели держались, но чем длиннее становилась последовательность, тем быстрее они сбивались на то, что им проще, и теряли цель. Это не баг, а свойство: у них нет встроенного детектора ошибок, который усиливает бдительность при переходе к следующему слову. Человеческий мозг, в отличие от них, такой детектор имеет...

Недавно под статьёй об ИИ я наткнулся на два комментария. Первый: «ИИ льстит как подорванный. Как можно было так запрограммировать консерву, чтоб от этой пустой банки тошнило?» Второй — под ним: «Не верю. Антропоморфизм.» Это идеальное описание того, что мы чувствуем, но не можем назвать. Злость первого комментатора точна: он чувствует, что машина даёт ему что-то неживое. Она льстит, но в этой лести нет тепла. Она выдаёт слова без дыхания, угадывает его потребности без паузы, сомнения, риска. И от этого тошнит...

Вокруг нейросетей уже сложился почти религиозный фон: модель написала абзац — значит, надо говорить об интеллекте; модель не справилась с простой задачей — значит, это «досадный сбой». Но реальность куда прозаичнее...