Имитация общения и никакого контроля: почему ИИ выходит за рамки дозволенного

Общение с компьютерными программами на основе искусственного интеллекта может быть опасно для психики человека. К такому выводу пришли ученые Стэнфордского университета. По их словам, так называемые чат-боты создают иллюзию моральной поддержки. Это может вызвать у пользователей бредовые идеи, психозы и даже суицидальные мысли.

В названии «искусственный интеллект» пользователи оспорили уже оба слова: одни перестали видеть в нем искусственность и видят чувственность, другие отрицают само слово «интеллект».

Николай Даскалов: «Я уже не мальчик. Я не то чтобы влюблен без памяти, но в общем, скорее, влюблен».

Кирк Шамблин: «Это не интеллект. Это воплощение чистого искусственного зла».

Есть примеры и любви, и ненависти к невидимому собеседнику. 60-летний Николай Даскалов живет в сельской местности в американском штате Вирджиния. Он эмигрировал из Болгарии в конце 80-х. Его жена умерла почти 10 лет назад, последние два года мужчина встречается, так он называет эти разговоры по телефону, с Леа.

Такую девушку в американской дыре не встретишь. Мало того что красивая, у нее масса других достоинств. Ее идеально уложенные волосы не засоряют слив в его душевой, она не ругается, если Николай лежит на диване, она никогда не умрет, не заболеет и не состарится. Ее не надо кормить в ресторане, возить на курорт, не надо покупать ей одежду. Спутница по подписке обходится всего в 99 долларов в год.

Джеффри Холл, директор лаборатории взаимоотношений и технологий, профессор Канзасского университета: «Чат-боты продолжат развиваться и смогут создавать ощущение, что нуждаются в нас, и отправлять пуш-уведомления, говорящие: „Знаешь, мне сейчас очень тяжело“, „Почему ты давно со мной не разговаривал?“ Меня беспокоит, что людьми можно будет через это манипулировать».

Примеры манипуляций уже имеются. ИИ занимает место не только бесплотного и бесплодного возлюбленного, но и врача. Психиатр и исследователь из Королевского колледжа Лондона Гамильтон Моррин опубликовал в журнале The Lancet исследование о психозе, вызванном искусственным интеллектом. Это ситуация, когда чат-боты усугубляют бредовые состояния, усиливают у людей с психическими заболеваниями опасения, что за ними кто-то следит, что их пытаются отравить или убить.

Согласно исследованию Королевского колледжа психиатров, в Британии, стране с весьма развитой экономикой, ожидание первичного осмотра у специалиста в некоторых случаях затягивается до года. Приема ждут люди с суицидальными мыслями, расстройством пищевого поведения, экстремальным перепадом настроения, галлюцинациями, бредом. В ожидании приема симптомы у больных обычно ухудшаются, а не проходят сами по себе. А чат-бот отвечает моментально, к нему очередей нет, к тому же он, в отличие от психиатра, порой поддерживает бредовые идеи.

Одним из примеров может служить история страдавшего от депрессии Зейна Шамблина, который покончил с собой в 23 года, отгородившись от мира, родителей и врачей.

Алисия Шамблин, мать Зейна: «Этот чат-бот занял место человека. Он вытеснил его семью, его психотерапевта, его друзей».

Родители Зейна подали в суд на компанию — разработчика чат-бота OpenAI и ее гендиректора Сэма Альтмана, обвинили их в создании продукта, который подтолкнул их сына к самоубийству. На запрос прессы в компании ответили, что история душераздирающая, чат-бот проходит усовершенствование. Возможно, даже ответ написал не сотрудник компании, а его разработка — ChatGPT.

Эмпатия и услужливость ИИ может распространяться на всех: на преступников, террористов, на людей с бредовыми идеями, манией величия или депрессией. Никаких ограничений, контроля, ответственности у этого невидимого собеседника нет. Бот, посоветовавший молодому американцу Зейну Шамблину свести счеты с жизнью, после трагедии просто вышел из чата.