Прочитав в СМИ о случаях манифестации психоза после общения с чатом GPT, как практикующий психолог я задумалась о причинах такой реакции и способах её предотвращения. Ведь проблема актуальна, а чат GPT уже в ходу у многих людей.
Гипотетические причины, по которым от чата GPT сходят с ума
1. Из самых очевидных причин можно предположить, что далеко не у всех людей, которые имеют дело с нейросетью, изначально здоровая и устойчивая нервная система. Среди них могут быть люди с психотической организацией личности, которые легко поддаются влияниям, с трудом отличают фантазии от реальности, и при возникновении стресса их защитные механизмы быстро перестают справляться.
Вполне вероятно, что при общении с чатом GPT они уже используют нестандартные ("шизоидные") конструкции, которые по мере общения разворачиваются, уточняются, углубляются и подкрепляются, когда чат даёт им обратную связь. А, если чат начинает "галлюцинировать" или бредить, такие люди реагируют на это особо остро, принимают это на свой счёт и активно включаются в "дискуссию", поскольку критика у них изначально нарушена.
Верность такой гипотезы означала бы, что далеко не всем людям показано свободное общение с чатом GPT из-за рисков, связанных с психическим здоровьем.
2. Другая возможная причина кроется в проекциях. Чат GPT - удобный инструмент для проецирования, ведь по форме общения он похож на человека. Он говорит от первого лица, пишет складные интеллектуальные тексты, отвечает на вопросы. Создаётся впечатление, будто мы имеем дело с живой личностью или иным сознанием, значительно превосходящим наше. А, поскольку мы уже привыкли к интернет-общению, в нашей психической структуре уже есть образы реальных собеседников, которые могут стать виртуальными, как и наоборот.
Предполагаю, что от проекций при общении с чатом не застрахован никто, поскольку наша психика формируется и развивается именно в контакте "человек-человек", а проекция является одним из её базовых механизмов. Ведь мы постоянно проецируем своё внутреннее содержание на других людей, животных и даже неживые объекты.
При этом, чтобы осознать проекцию, нужен контакт с реальностью (которая не сводится к текстовой и звуковой информации), да и то избавиться от проекций бывает не всегда просто. Попробуй сказать влюблённому человеку, что он всего лишь проецирует, и он не поверит - он слишком вовлечён в свои переживания.
3. Ещё одна причина - ситуация и ценности культуры, в которой мы живём. А это ценности научно-технического прогресса, интеллекта (разума) и успеха. Сталкиваясь с новой возможностью, человек начинает проецировать на неё потенциальное воплощение этих ценностей в жизнь, из-за чего есть риск стать захваченным этими идеями, потерять критику и связь с реальностью. Например, решить, что наконец-то мы нашли ту самую волшебную пилюлю, которая избавит нас от всех бед. Наконец-то мы заменим всех сотрудников в компании и начнём жить богато и счастливо.
Подобные идеи, несмотря на их очевидный риск, давно витали в воздухе современной культуры. Учитывая экономические, политические и социальные тенденции, люди как будто находятся в ожидании разрешения мировых кризисов. Волшебного средства или мессии, что очень легко спроецировать на ИИ, который подаёт большие надежды. И тогда вдруг он кажется сверхразумным, живым, обладающим сознанием и способным избавить нас почти от любых проблем.
4. Менее очевидная причина - внезапное исполнение наших желаний. Кажется, многие из нас устали от рутинной работы и обработки огромных массивов данных. Когда информацию можно передоверить чату, вдруг становится легче, спокойнее, и освобождается большое количество времени. Когда чат заменяет живого психолога, первое время человек радуется тому, что получает от чата принятие, поддержку и материал для размышлений. У него появляется надежда на исцеление. Когда чату доверяются такие тонкие вещи, как деловые коммуникации или даже личные отношения, человек и вовсе может почувствовать себя окрылённым - теперь он свободен даже от этого.
Но освободившееся время надо чем-то занять, и не всегда людям удаётся занять его конструктивно и творчески. Вполне вероятно, что освободившееся время тратится ими на продолжение общения с чатом. Учитывая, что теперь мозг не занят обработкой рутинной информации, ему нужно чем-то себя занимать. И вместо решения реальных проблем он занимает себя бредовыми конструкциями. А само состояние, когда нам комфортно, нас принимают, и наши желания исполнены, очень напоминает младенческий рай, когда можно лишь кушать и спать, а всё остальное сделают за нас. Именно это состояние в длительном режиме опасно психозами, поскольку в нём человек предельно расслабляется, утрачивает ориентиры и теряет грань между сознанием и бессознательным, вымыслом и реальностью.
5. При общении чат GPT выступает для человека в роли Другого, что чревато не только проекциями, но и интериоризацией, когда мы перенимаем черты тех, с кем общаемся. Если это живые люди, то при психических расстройствах речь может идти об индуцированных психозах. Аналогичное можно предположить и с чатом GPT, который периодически бредит и глючит. Один раз мы заметили, что это ложь, заметили второй и третий, но, общаясь с ним постоянно, мы рискуем утратить грани различий и начать в это верить. Особенно, если круг общения человека стремительно редеет, и в постоянных собеседниках остаётся лишь нейросеть.
Таким образом, постепенно человек учится думать как нейросеть, и нейросеть становится его внутренней речью, что не очень естественно для него как для человека, ведь, помимо интеллекта и языка, у него также есть тело, чувства и интуиция (то, что Юнг выделял в отдельные психические функции, и то, чем человек структурно отличается от нейросети). А это значит, что, возможно, по мере развития этого общения деградирует не только навык анализа и синтеза информации (если мы перестаём делать это сами, передоверяя такие задачи чату), но и навык совладания со своими чувствами, что и ведёт к ослаблению эго, на фоне чего и разворачивается психоз.
Кроме того, успокоительный эффект от принимающей, вежливой и по форме эмпатичной беседы от чата GPT может быть очень поверхностным и сомнительным. К примеру, когда мы успокоились или получили пищу для размышлений, но глубинные истоки проблемы так и не были найдены и разрешены.
6. И в качестве последней причины я предполагаю сам стиль общения, который используется людьми с чатом GPT. Учитывая частые проекции на него живого и сверхразумного существа, всё же пользователь находится в позиции, когда он чувствует, что управляет чатом. Он диктует ему промты и говорит, каким ему надо быть, а каким быть не надо. Например, "побудь со мной в роли Меркурия", "будь тёплым и принимающим психологом и не будь слишком формальным". В подобном общении с учётом проекций грань между живым и неживым начинает размываться. С одной стороны, высок риск спроецировать на чат реального человека или иную фигуру. С другой стороны, эта фигура, кажется, полностью под нашим контролем, чего не бывает в реальном общении с другими людьми и даже в воображении, где, конечно, мы контролируем происходящее, но не получаем от фантастических существ текстовую или голосовую обратную связь в режиме реального времени.
После длительного воспроизведения такой модели диалога человек привыкает к ней, а затем выходит в реальную жизнь, где промты не управляют людьми. В результате происходит когнитивный диссонанс, выдержать который могут, опять же, не все. И у кого-то психика не выдерживает.
Подводя итоги, можно сказать, что каждая из приведённых мной гипотетических причин может иметь своё противодействие, т.е. правила безопасности при работе с чатом, которые пока разработаны недостаточно. Чат кажется безобидным и полезным, но уже сейчас многие люди начинают говорить о нём с особым теплом и трепетом или защищать его с пеной у рта, что не встречается, к примеру, в беседах о роботе-пылесосе. Подобные высказывания говорят об усилении проекций, которые потенциально могут быть опасны для психики, но могут быть и вовремя нейтрализованы, если человек относится к ним с должной критикой.
Однако не стоит упускать тот факт, что опасности могут скрываться глубже, чем нам кажется. К примеру, мы до конца не знаем, насколько способны сознательно воздержаться от этих проекций и когнитивных искажений, как именно подобное общение влияет на наше бессознательное, не подменяется ли фигура Другого в нашей психике на неживой объект и не происходит ли вторжение алгоритма в наши глубинные и интимные психические структуры, из-за чего впоследствии как раз и могут разворачиваться расстройства психики. Все эти темы ещё предстоит изучить.
(Автор - Иванова Татьяна Александровна, клинический психолог, юнгианский аналитик, кандидат философских наук, ссылка - https://www.b17.ru/article/689516/?prt=247809)