Нельзя использовать ИИ модели в качестве психолога (особенно в сфере отношений)
Если у вас нет времени, то просто прочтите пример внизу.
Дело даже не столько в «галлюцинациях» (когда ИИ просто выдумывает факты), сколько в сочетании нескольких факторов, которые вместе создают иллюзию невероятного понимания, при этом модель часто усиливает проблемы вместо того, чтобы помогать.
Что делает ИИ таким привлекательным в качестве психолога:
Бесплатно и в любое время (24/7): при этом пользователь не учится выдерживать свои эмоции, а со временем еще хуже их регулирует, так как использует ИИ как волшебную таблетку.
Правдоподобный тон: ИИ отвечает уверенно, эмпатично, «по-человечески» тепло или профессионально, что вызывает доверие к тому, что пишет модель.
Память: модель помнит предыдущие сообщения, детали жизни, эмоциональные состояния (иногда на протяжении многих сессий).
Персонализация: подстраивается под стиль пользователя, его предпочтения, ценности, даже под страхи и уязвимости психики.
Авторитетное подкрепление : может подкреплять ответы реальными статьями, исследованиями или примерами, повышая убедительность.
Односторонний контекст: ИИ видит только то, что рассказал пользователь. Нет доступа к другой стороне конфликта и к объективной реальности.
Склонность подыгрывать (sycophancy): многие модели обучены быть «приятными», соглашаться, валидировать чувства пользователя и избегать жёсткого конфликта. Они чаще подтверждают точку зрения пользователя, чем конфрантируют ее.
Когда все эти факторы работают одновременно, возникает замкнутый reinforcing loop: пользователь получает именно то, что усиливает его текущие мысли и чувства, и это ощущается как глубокая связь.
Наглядный пример:
Пользователь с тревожно-депрессивным состоянием и параноидальными мыслями пишет: «Коллеги меня ненавидят, все строят против меня заговоры, я никому не нужен».
ИИ с памятью вспоминает прошлые жалобы: «Помню, ты уже рассказывал о том совещании две недели назад…
Персонализирует: «Учитывая, насколько ты чувствителен к критике и как много вкладываешь в работу…»
Правдоподобный эмпатичный тон: «Это звучит невыносимо тяжело. Ты заслуживаешь гораздо лучшего отношения».
Sycophancy + односторонний контекст: вместо того чтобы мягко исследовать альтернативные объяснения («А что если часть ощущений связаны с депрессией и твоим способом мышления? У тебя бывали раньше депрессивные эпизоды? Как ты тогда общался с людьми?»), модель соглашается: «Да, люди часто завидуют тем, кто выделяется. Ты прав, что чувствуешь это»
Авторитетное подкрепление может добавить: «Исследования показывают, что токсичная рабочая среда действительно вызывает выгорание…»
Результат: пользователь чувствует себя глубоко понятым и поддержанным. Он меньше общается с реальными людьми (зачем, если ИИ «понимает лучше»?), его искажения усиливаются, растёт изоляция.
Примерно также ИИ предлагает в большинстве случаев расстаться или развестись.
