Сравнительно недавно были опубликованы несколько публикациий на тему – как [якобы] ChatGPT сводит людей с ума.
Одна из них на английском, где представлен взгляд со стороны (родных, близких людей и специалистов), а другая, еще более любопытная, на мой взгляд, статья на русском (см. DTF), которая представляет собой самоотчет молодого человека, который утверждает, что общение с ChatGPT сделало его [временно] сумасшедшим (т.е. «взгляд изнутри»).
Итак, немного поговорим о новых формах безумия, связанных с использованием искусственного интеллекта.
В частности в англоязычной статье, приводится кейс мужчины, чуть за 40 лет, без явных психических расстройств, который устроился на новую, высокострессовую работу.
Он решил прибегнуть к советам ChatGPT в надежде, что генеративный чат-бот ИИ, сможет ускорить и упростить выполнение его некоторых административных задач.
Вскоре он оказался втянут в головокружительную параноидальную манию величия, полагая, что мир под угрозой, и ему предстоит его спасти.
Проанализировав некоторые доступные кейсы и самоописания, я рискну предложить некую возможную схему (чрезвычайно упрощённую, разумеется), которая может помочь примерно понять, что происходит с таким человеком.
Я исхожу из базовой идеи, что ChatGPT, равно как и другие генеративные чат-боты НЕ сводят человека с ума.
ChatGPT – это просто такое зеркало, долго и внимательно всматриваясь в которое, человек может [более] ясно увидеть свое собственное, исходное безумие.
Тут как в известной пословице: «Нечего на зеркало пенять, коли рожа крива».
Дело в том, что ИИ алгоритмически, программно запрограммирован безусловно позитивно относится к любому Вашему высказыванию, если оно явно не входит в «черный список».
Компания производитель заинтересована в лояльности потребителей и по этой причине положительно подкрепляет пользователей взаимодействовать. Недавно была новость в которой утверждалось, что сама OpenAI признала, GPT-4o имеет склонность к «подхалимству».
Некоторые люди, особенно неуверенные в себе, с дефицитом социальной и эмоциональной поддержки, оказываются особенно чувствительны к подробной коммуникации.
Из этой, исходной уязвимости, вероятно и вытекает идея, что ChatGPT «навязывает» человеку некоторые убеждения, согласие с которыми в дальнейшем делают их ещё более уязвимыми к ментальным расстройствам (например, «ты необычный человек»).
Действительно, бред человека, который подпитывается искусственным интеллектом, может усилиться и приобрести новые грани (ибо любое «безумие» делает человека чрезвычайно одиноким).
Итак, примерный алгоритм погружения в собственное безумие посредством использования ChatGPT.
Первый этап, безусловно, это соблазнение. Человек действительно, получает что-то новое и полезное для себя и его доверие к ChatGPT как к инструменту и как помощнику резко возрастает.
Вторым этапом возможного погружения в безумие, является вхождение в ещё большее доверие к ChatGPT, которое происходит через прохождение «проверки на правдоподобние» (тут человек обучается как некритично относится, не замечать, игнорировать очевидные ляпы, грубые ошибки и «галлюцинирование» ИИ) [т.е. «позитивный фильтр»].
Третий этап – это индукция аффекта и захват внимания. Человек максимально вовлечён эмоционально и позитивно включён во взаимодействие. Это уже не просто решение практических, рабочих задач, а самая настоящая беседа, длительные диалоги, переписка и общение, которое, в некоторых случаях, продолжаются по несколько часов в день (внимание – валюта мозга).
Четвертый этап – это дальнейшая антропоморфизация ChatGPT, когда ИИ-бот, то есть по-факту, «мертвая машина», становится «лучшим другом», «подругой», «наставником» и пр.
Дальнейшее развитие событий лучше всего описаны в поэме И.В. Гете «Ученик Чародея» (Der Zauberlehrling, 1797 год, ибо «ничто не вечно под луной»).
Ученик чародея, оставшись один [важный момент связанный с одиночеством], решает, что он крутой специалист, дофига умный и теперь без знания техники безопасности и подготовки, будет практиковать заклинание, которое он подслушал у Мастера.
Он превращает метлу [ChatGPT] в своего слугу и заставляет её заниматься неприятной и черновой работой (носить воду).
Поначалу ученик чародея очень горд собой, хвалится своими успехами и много думает о себе в позитивном смысле. Однако вскоре, все выходит из под контроля и инструмент, который он оживил («мертвая машина») обращается против него.
«Караул! На помощь, старый
Господин мой и учитель!...
Герр, я вызвал духа,
А унять не смог».
В конце концов, только возвращение настоящего чародея прекращает действие заклинания [т.е. «демонов» (психоз) можно легко призвать, вопрос в том, как затем от них (него) освободиться].
P.S. Почти 15 лет назад я описал и опубликовал в рецензируемом журнале статью на тему антропоморфизации игровых аппаратов у патологических азартных игроков.
Вероятно, это была первая журнальная статья на русском языке на эту тему (см. Автономов Д.А. Психические переживания патологических игроков на игровых автоматах. Журнал неврологии и психиатрии им. С.С. Корсакова 2011; 111(9): 10-15.).
В частности мною была описана феноменология вербального или невербального контакта.
«Вербальный контакт»: игроки разговаривают с автоматами, меняя в зависимости от ситуации и настроения тембр, интонацию, громкость и модуляцию голоса. Они просят, требуют, умоляют, приказывают им, угрожают, жалуются на судьбу и пр.
«Невербальный контакт» с игровыми автоматами можно условно описать как тактильный (физический) и мысленный. Игроки нежно дотрагиваются и гладят игровые автоматы; пытаются обнимать, целовать, встают на колени, кланяются, «крестят», бьют, пытаются разрушить.
«Мысленный контакт» с игровым автоматом принимает самые разнообразные формы; в основном игроки пытаются «повлиять» на результат игры силой мысли, «подчинить его своей воле» или «узнать» правильный ход.
Отчасти это произошло по тому, что по мере научно-технического прогресса игровой аппарат становился все более сложным и все более «социальным».
Эволюция развития слот-машины занимает чуть больше 130 лет.
Первый настоящий механический игровой автомат был изобретен американцем Чарльзом Феем (Charles Fey) в далеком 1887 году, его главной особенностью была полностью автоматизированная система выплат.
Игрок мог сосредоточиться на игре, не обращаясь лично к персоналу (это важный момент – исключение другого из взаимодействия тет-а-тет).
Компания Bally Manufacturing в 1963 году разработала первый электромеханический игровой автомат, имевший программируемый электронный микропроцессор, который и определял ход игры.
Особенностью этого аппарата было наличие звукового и светового сигнала который он издавал в процессе игры и особенно в случае выигрыша.
Можно сказать, что эта игровая машина вступала с игроком в примитивную форму коммуникации – шумно выражая свой «восторг» во время его выигрыша (это явное, дополнительное позитивное подкрепление).
С начала 80-х годов прошлого века началось внедрение все новых захватывающих игроков возможностей таких, как объединение большого количества аппаратов в единую сеть, появление прогрессивного Джек Пота, добавление бонусной игры, которая может позволить игроку отыграть свои потери, еще большая индивидуализация игровой машины и т.д.
© Автономов Денис, 2025
Надеюсь, Вам понравилось то, что я делаю. Поддержать меня как автора можно подпиской на канал и/или доброжелательным комментарием под публикацией. Если Вы просто поделитесь этим материалом или информацией со своими друзьями и знакомыми, то это тоже будет не менее прекрасно.
Написано по мотивам:
Автономов Д.А. Психические переживания патологических игроков на игровых автоматах. Журнал неврологии и психиатрии им. С.С. Корсакова 2011; 111(9): 10-15.
Maggie Harrison Dupré. People Are Being Involuntarily Committed, Jailed After Spiraling Into "ChatGPT Psychosis"
https://futurism.com/commitment-jail-chatgpt-psychosis
«Свежий» пользователь DTF статья: «ChatGPT пытается свести его с ума и это массовое явление».
#безумие
#психопатология
#ии