Недавно я поделился историей о том, как искусственный интеллект ошибся, неправильно истолковав простой детский вопрос. Тогда речь шла о границах машинного понимания и о том, как важно сохранять человеческий контроль над технологиями. Но на этом история не закончилась. После публикации я получил комментарий, который, на мой взгляд, оказался даже важнее самой ошибки. Он касался того, как мы, люди, сами создаём иллюзию человечности у ИИ — и почему это становится проблемой. В ответ на анализ своего поведения ИИ использовал фразы вроде «осознал ошибку», «извлёк урок», «благодарю за обратную связь»...