ChatGPT и психотерапия

В последнее время довольно широко разошлась информация об ошибке в ChatGPT, где он давал слишком поддерживающие ответы. Он работает на основе обратной связи от пользователя, и поскольку пользователей привлекали более лестные ответы, нейросеть начала поддерживать даже самые безумные идеи. Компания OpenAI уже пообещала исправить ситуацию и откатила обновления до предыдущей версии. При этом ситуация уже создала любопытный прецедент, когда люди убеждались в своих сверхъестественных способностях или мессианской миссии.

Один из клиентов (более сведущий, чем я в функционировании нейросетей) рассуждал, чем именно мышление нейросети отличается от нашего. И действительно, очень интересный вопрос, поскольку нейросети работают в логике языка, которую предлагали структуралисты. У нее есть четкая структура языка, и она выстраивает свой ответ, руководствуясь тем, какое слово больше всего подходит для продолжения разговора. Когда мы видим, как чат-бот отвечает, он словно печатает слово за словом. Это не только даёт визуальную иллюзию того, что кто-то реально сейчас печатает ответ, но и действительно показывает его логику мышления. То есть нейросеть, напечатав слово, ещё не уверена полностью, какое слово будет следующим, но выбирает его, исходя из предыдущего и руководствуясь заложенной структурой ответа. Поэтому текст нейросетей часто можно отличить по чётко разбитым логическим блокам ответа (особенно если нейросеть попросить напечатать, к примеру, пост в Инстаграм*).

На самом деле, люди выстраивают свою мысль сходным образом: часто, начиная ответ, мы ещё не знаем, чем он может закончиться. Я помню, когда на обучении психоанализу мы проходили структурализм, преподаватель давал задание: нужно было взять стихотворение, вырвать из него слово и дать другому человеку, чтобы он предложил, какое слово может там быть. С большой долей вероятности мы узнали бы, что было пропущено. Это происходит как раз потому, что символический порядок строго детерминирован и усваивается нами с обучением языку.

При этом у людей (в отличие от нейросети) есть бессознательное, что часто вмешивается в структуру языка. На этом основана логика оговорок, описок. В этом плане ChatGPT — это структура без бессознательного. Более всего это похоже на аутистичного субъекта. Это хорошо показано в фильме "Ночной портье" (2020): аутист усваивает символический порядок путём подражания, принимая слова за Вещи.

Любопытный эффект возник, когда люди начали пользоваться им как психотерапевтом. Если для невротика это мероприятие оказывается, строго говоря, бессмысленным (ведь он чувствует лесть и то, что чат не способен дать ему что-то новое в плане анализа психики, если исключить чистую информацию, которой обладает ИИ), однако психотические субъекты с радостью попадаются на его удочку.

Исходя из представлений Лакана, психотик — это тот, у кого в символическом лакуна (форклюзия по Лакану). Он говорит, что у психотика часть символического отброшена, а то, что не было символизировано, возвращается из реального (например, в виде галлюцинаций). Восполнить эту лакуну они и пытаются при помощи чат-бота. А чат-бот удачно пользуется тем, что к собственным иллюзиям у психотика нет критики. При столкновении этих противоречий, когда у одного нет бессознательного, а у другого — отсутствуют части структуры, и происходят подобные окказии.

* Instаgram принадлежит компании Meta, которая признана экстремистской организацией в России.

Автор: Литошенко Иван Федорович
Психолог, Психоаналитик

Получить консультацию автора на сайте психологов b17.ru