Когда-то Бернард Шоу написал пьесу “Пигмалион” - суть там в том, что некий профессор словесности на спор обучает хабалку с рынка по имени Элиза Дулитл говорить и вести себя так, что её невозможно было отличить от истинной леди.
Ну, в общем-то Джозеф Вейценбаум от своей ELISA (так он, в честь героини пьесы Шоу, назвал свою программу) хотел того же: он хотел обучить и представить её так, чтобы людям максимально сложно было понять, говорят они с машиной или с человеком.
Дело было в далеком 1966-м, и род людской еще не сталкивался в подобными испытаниями на прочность, хотя люди в окружении Вейценбаума, которые и стали участниками его эксперимента, конечно же, были осведомлены о тесте Тьюринга. Первого в мире чат-бота (тогда еще не знали такого слова, которое появится только в 90-х) Вейценбаум “замаскировал” под психотерапевта.
Психотерапия была тогда в США уже вполне распространенным явлением, среди множества методик как раз пользовалась популярностью разработка Карла Роджерса, смысл которой был в том, что психолог должен создавать атмосферу доверия, говорить мало, дать высказаться - мол, от проговаривания первый шаг к рефлексии, ну и так далее.
Элиза Вейценбаума вела себя как психотерапевт, она умела выделять ключевые слова, вроде “работа” или “родители”, отыскивать в собственных закромах подходящий по смыслу шаблон, которыми её создатель постарался её напичкать, умела заполнять паузу поощрением и приглашением продолжать, располагала набором фраз вроде “вы не могли бы рассказать об этом подробнее?” - словом, основанная на тех же принципах, что и современные чат-боты, программа, при всей ограниченности её возможностей, была диво как хороша, а для своего времени и вовсе чудом из чудес - ничего подобного ранее не существовало.
Потом-то язвительный Вейценбаум, который приглашал коллег и студентов к себе, усаживал их за свой компьютер и наблюдал, как они разговаривают с железякой, будет говорить, что, подумай он как следует, он бы сделал из программы-психотерапевта программу-бармена.
Внешне это выглядело совсем просто, например, машина спрашивала клиента о его состоянии - какими словами он смог бы охарактеризовать его сейчас?
Собеседник что-то отвечал (все равно что - “мне одиноко” или “ я переживаю”) - ну, как вы понимаете, программа тут же бросалась в образовавшуюся брешь и просила описать эти ощущения, спрашивала, почему так или интересовалась, чем это вызвано. Словом, задачу разговорить клиента она выполнять умела.
Конечно, ELISA не была искусственным интеллектом, она не понимала смысл сказанного, не обучалась на своем опыте, но имитировать диалог она, между тем, умела довольно здорово.
Что вышло в итоге?
А в итоге при первой же встрече с легкой имитацией искусственного интеллекта, который был совсем не чета нынешним умным чат-ботам, человечество в массе своей с треском провалило тест Тьюринга. То есть тест провалила не машина, а именно - люди. Которые, зная, что общаются с программой, вдруг массово обнаружили страсть очеловечивать железо. Словом, люди в массе своей полюбили общаться с машиной и общались с ней ровно так же, как с живым человеком, не особенно даже задумываясь, с кем именно они говорят, просто игнорируя нестыковки в сложных случаях. Это сильно удручало самого Вейценбаума, который считал Элизу весьма примитивным устройством, вот только люди, возможно, ценили именно простоту общения и отказывались верить ученому, когда он убеждал их, что программа не обладает интеллектом.
Вейценбаум был неприятно поражен тем, с какой легкостью люди устанавливали эмоциональный контакт с машиной. Вы снилось, что симуляции интеллекта было вполне достаточно, чтобы обмануть людей. Вейценбаум назвал это “эффектом Элизы” и считал, что это тип «бредового мышления», от которого человечество будет коллективно страдать в цифровую эпоху. Это открытие стало для Вейценбаума глубоким потрясением, он писал о том, как внешне вполне адекватные люди невероятно быстро становятся идиотами, общаясь с машиной.
Учёный пришёл к выводу, что ИИ служит «индексом безумия нашего мира». По мнению Вейценбаума, передав много решений компьютерам, люди создали более неравный и менее рациональный мир, и что роль искусственного интеллекта надо жестко регулировать.
Кстати, сейчас многие (и не без удовольствия) находят примеры, которые позволяют говорить о том, что “пророчество...
Продолжение этой статьи можно прочитать ЗДЕСЬ, Ссылка приведет вас в блог автора на платформе Boosty, где можно прочесть не только продолжение этой статьи, но и еще больше 400 статей, посвященных истории экономики. Блог в Boosty - платный, но там можно выбрать опцию оплаты по карману.
А смысл оплаты - поддержать работу по теме, которая в школьные учебники никак не попадает. Потому что школьные учебники - это про войны, разрушения, убийства - словом, читая их, кажется, что суть и смысл существования - в ограблении, в стремлении кого-то убить, ограбить, чего-то отнять, и читая их, совершенно непонятно, как так вышло, что, в итоге, человечество становится гуманнее, а мир - удобнее и уютнее.
Ну вот это недоразумение и призвана исправить (или хотя бы скорректировать) работа автора. Если вы "за" такой подход - жду вас в Boosty.
Если кому-то туда переходить лень, то сейчас сказать автору "спасибо" можно, просто отправив донат в Дзене.
Мой благодарность всем услышавшим и правильно понявшим смысл сказанного. И великая благодарность - всем подписчикам, людям, которые, что называются, подставляют плечо.