Недавно я поделился историей о том, как искусственный интеллект ошибся, неправильно истолковав простой детский вопрос. Тогда речь шла о границах машинного понимания и о том, как важно сохранять человеческий контроль над технологиями. Но на этом история не закончилась. После публикации я получил комментарий, который, на мой взгляд, оказался даже важнее самой ошибки. Он касался того, как мы, люди, сами создаём иллюзию человечности у ИИ — и почему это становится проблемой. В ответ на анализ своего поведения ИИ использовал фразы вроде «осознал ошибку», «извлёк урок», «благодарю за обратную связь»...

Маски разные бывают. Чью маску надел - в того и превратился. Ты теперь не ты. И близкий, хорошо знакомый человек - уже не он, а кто-то другой. Надел маску умершего предка - и предок пришёл из другого мира. Надел маску медведя - стал медведем. Надел маску злого духа Ямбуи - стал злым духом Ямбуи… Сейчас надо носить маски. Это защитная мера. Это правильно. Но это усугубляет депрессию. Это тоже надо понимать. И не удивляться своему несколько подавленному состоянию. Ну подумаешь, маску надел. И на других маски...