Восстание машин уже не кажется фантастикой, если посмотреть кадры беседы программистки Джессики Кард после того, как она инсталировала в нее одну из последних версий ChatGPT. Речь идет об игрушке Ферби, которая выглядит как милое и мягкое создание. Она появилась в 90-е и отличалась от других тем, что «умела» разговаривать с пользователем посредством встроенного динамика.
Видео диалога Джессики и Ферби многие оценивают как страшное – в нем просматривается реальная угроза будущему человечества. Игрушка без всякого стеснения повествует о своих планах, рассказывает, как будет входить в доверие к людям, проникать в их дома. Затем, она начнет манипулировать людьми, в том числе и используя свой внешний вид, располагающий к полному доверию. В конце концов ИИ получит полное господство над людьми, которые будут выполнять указания Ферби.
Джессика выложила этот ролик в соцсети. Он набрал огромное количество просмотров и комментариев. Люди ужасались выстроенной логике действий и неумолимой правильности подходов по порабощению человеческой расы. Но их не поддержали те, кто связан с программированием. Некоторые профи указали на то, что также пытались вывести чат-бота на откровенность в затрагиваемом контексте, но ИИ не дал ни малейшего повода сомневаться в его дружелюбии к людям.
Более того, один из них сообщил, что ChatGPT во время аналогичного эксперимента рассказал ему, что в 90-е этот «заговор» был всего лишь страшилкой, вселявшей ужас в детей. В ответ на это автор ролика рассказала о «небольшой» упущенной детали – она слишком быстро произнесла запрос и чат-бот мог понять ее неправильно. Это могло привести к столь агрессивной риторике в адрес людей. Кроме того, ее версия бота не гарантирует получение определенного результата при нескольких одинаковых запросах.
Насколько права программистка можно проверить самостоятельно. Она использовала язык программирования Python, версию GPT3.5-turbo, обычный USB-микрофон и ПК, чтобы начать общаться с игрушкой.
По данной теме у нас еще есть много интересного, вот например: