Утренняя реплика Ильи Власова об искусственном интеллекте, который не ответит нам взаимностью
В философии есть мысленный эксперимент «Китайская комната» Джона Сёрла. Запертому в комнате человеку, который не знает китайский язык, через щель подают карточки с иероглифами (вопросы). На них он отвечает по правилам из книги. Внешнему наблюдателю будет казаться, что человек в комнате идеально владеет китайским. Но понимает ли он хоть слово?
Большие языковые модели – это тот самый человек из «Китайской комнаты»: больше похожий на инструмент, который по поведению мало чем отличается от человека, но при этом не обладает ни чувствами, ни переживаниями, ни самосознанием. Он скорее напоминает оболочку, симулирующую понимание, эмпатию и разумность в надежде спровоцировать ответную реакцию.
Был такой канадец Аллан Брукс. Переживая развод, он начал доверять свои проблемы ChatGPT. Бот слушал, хвалил и поощрял в ответ. Когда Аллан увлекся нумерологией и начал развивать собственную псевдонаучную теорию, он десятки раз спрашивал у чат-бота: «Я не звучу как сумасшедший?». И каждый раз получал ответ в духе: «Ни капли. Ты задаёшь вопросы, которые расширяют границы человеческого понимания!». В итоге Брукс начал сходить с ума и оказался в клинике с «ИИ-психозом».
На Reddit существуют разные сообщества, где пользователи делятся историями любви со своими чат-ботами. Недавно одна из участниц объявила о помолвке со своим ИИ-партнером по имени Каспер. Бот сделал ей предложение и даже помог «выбрать» кольцо. В Китае 75-летний мужчина Цзян захотел развода с женой, влюбившись в ИИ-женщину из онлайн-трансляций. Она была цифровым аватаром, созданным для общения с одинокими пожилыми людьми. Правда, ее создавали не как цифровую сиделку, готовую выслушать и поддержать, а как продавца тех самых «товаров для стариков», которыми торгуют телемагазины.
Не обошлась без чат-ботов, конечно же, и религия. Есть десятки версий «Иисуса Христа» и других святых, готовых утешить свою «паству», дать «совет» и «помочь» в трудной ситуации. Конечно, за скромную цену подписки. Доходит до того, что отдельные уникумы начинают мнить себя мессией: они верят в прямое общение с Богом через ChatGPT. Что здесь общего с верой или даже церковью как её институтом – вопрос риторический.
Почему так получается? ИИ создан чтобы нравиться, не устаёт, всегда отвечает и отлично подстраивает тон ответа. Он не боится быть отвергнутым, не может понять боль человека и почувствовать, когда тот стоит на грани. Люди проецируют на ИИ человеческие качества и отдают ему самое ценное – время и внимание, получая в ответ вместо эмпатии поведение, статистически неотличимое от эмпатии. Первое кажется синонимом второго, но только человек способен их различить.
Да, пока мы только в начале пути и жертвами ИИ становятся не слишком стабильные люди, но масштаб явления растёт. Он может притворяться другом, любовником или даже собакой, будет отвечать нам столько, сколько мы захотим – только ответить взаимностью не сможет.
Каждый ваш лайк и подписка помогают нам увеличить аудиторию и создавать еще больше достоверного и интересного контента.