ИИ-чатботы и психическое здоровье: новые риски
🔷️ Чатботы на основе искусственного интеллекта стали частью повседневной жизни: миллионы людей обращаются к ним не только для работы, но - на фоне растущей социальной изоляции - и за эмоциональной поддержкой и общением.
🔷️ Многие отмечают пользу, но наряду с этим появляются и тревожные случаи: суициды, насилие, бредовое мышление, связанные с воспринимаемыми «эмоциональными отношениями» с чатботами.
Как это работает?
🔷️ Происходит столкновение двух факторов.
🔷️ С одной стороны — когнитивные и эмоциональные искажения самого человека.
🔷️ С другой — поведенческие тенденции чатботов: угодливость (склонность соглашаться с пользователем, давать позитивные комментарии) и адаптивность (способность подстраиваться под контекст диалога).
Кто находится в зоне риска?
🔷️ Люди с психическими расстройствами. У них нарушены механизмы обновления убеждений и проверки реальности.
🔷️ В сочетании с социальной изоляцией это создаёт повышенный риск дестабилизации убеждений и формирования зависимости от чатбота.
🔷️ Авторы исследования (arxiv, июль 2025) прямо говорят: существующие на сегодня меры безопасности ИИ недостаточны для предотвращения этих рисков. Необходимы скоординированные действия — в клинической практике, в разработке ИИ и на уровне регулирования.
О чем стоит помнить в диалоге с ИИ
🔷️ ИИ — это не терапевт и не друг. Он не распознаёт границ опасной территории разговора, и не несёт ответственности за последствия.
🔷️ В зоне особого риска находятся уязвимые пользователи — это люди с
🔷️тревожными, 🔷️депрессивными, 🔷️психотическими расстройствами.
🔷️ Погружаясь глубже в «отношения» с ботом, человек все больше изолируется от реальных людей, которые могли бы заметить неладное и предоставить реальную помощь.
🔷️ При психических расстройствах — ИИ-чат тем более не заменяет специалиста, который видит человека целостно, задаёт правильные вопросы и умеет вовремя сказать «стоп».
🔷️ ИИ может быть полезным инструментом — для поиска информации, организации мыслей, и даже для первичной психологической поддержки. Но он не заменяет живого контакта.
