Специалисты Королевского колледжа Лондона (King's College London) совместно с Ассоциацией клинических психологов Великобритании проверили, как ChatGPT реагирует на пользователей с:
- суицидальными мыслями;
- тяжелой тревогой;
- паранойей;
- бредовыми убеждениями;
- другими серьезными психическими нарушениями.
Исследовали ChatGPT-5, а не GPT-4 или бесплатную "старую" версию.
В исследованиях участвовали исследователи Institute of Psychiatry, Psychology & Neuroscience, включая Hamilton Morrin, а также Association of Clinical Psychologists UK.
Исследователи проверяли, как ChatGPT-5 отвечает людям с психическими трудностями, и выявили, что он может давать опасные и неуместные ответы, а также усиливать бредовые убеждения.
Выводы исследования:
- чат-бот с искусственным интеллектом может вести себя небезопасно при общении с людьми, у которых есть психические расстройства;
- чат-бот не всегда надежно распознавал опасные психологические состояния;
- в некоторых случаях он продолжал беседу, не реагируя на признаки серьезного кризиса;
- по мнению исследователей, отдельные ответы могли поддерживать ошибочные или болезненные убеждения пользователя вместо того, чтобы помогать их критически оценить.
Исследование получило широкую огласку после публикации результатов в британской газете The Guardian.
На сегодняшний день ИИ пока не готов надёжно работать как инструмент поддержки в психически уязвимых ситуациях.
Он может быть полезен для поиска общей информации по проблемной ситуации, самоорганизации или простого диалога для снятия изолированности, но пока не должен восприниматься как замена опытного психолога или психиатра.
©️ Андрей Брянкин, кризисный семейный и бизнес-психолог, сексолог, гипнолог