По словам исследователей, чат-боты должны быть достаточно устойчивыми, чтобы справляться с трудными эмоциональными ситуациями.
Даже у чат-ботов бывает хандра. Согласно новому исследованию, инструмент искусственного интеллекта OpenAI ChatGPT демонстрирует признаки тревожности, когда его пользователи делятся «травматичными историями» о преступлениях, войне или автомобильных авариях. А когда чат-боты испытывают стресс, они с меньшей вероятностью будут полезны в терапевтических целях при работе с людьми.
Однако уровень тревожности бота можно снизить с помощью тех же упражнений на осознанность, которые, как было доказано, работают и с людьми.
Всё чаще люди обращаются к чат-ботам для разговорной терапии. Исследователи заявили, что эта тенденция будет только усиливаться, поскольку психотерапевтов из плоти и крови не хватает, а спрос на них высок. Они утверждают, что по мере роста популярности чат-ботов их следует создавать более устойчивыми, чтобы они могли справляться со сложными эмоциональными ситуациями.
«У меня есть пациенты, которые используют эти инструменты, — сказал доктор Тобиас Шпиллер, автор нового исследования и практикующий психиатр в Университетской психиатрической больнице Цюриха. — Нам следует обсудить использование этих моделей в психиатрии, особенно когда мы имеем дело с уязвимыми людьми».
Инструменты искусственного интеллекта, такие как ChatGPT, работают на основе «больших языковых моделей», которые обучаются на огромных массивах онлайн-информации, чтобы максимально приблизить свою речь к человеческой. Иногда чат-боты могут быть чрезвычайно убедительными: 28-летняя женщина влюбилась в ChatGPT, а 14-летний мальчик покончил с собой после того, как сильно привязался к чат-боту.
Зив Бен-Цион, клинический нейробиолог из Йельского университета, который руководил новым исследованием, сказал, что хотел понять, может ли чат-бот, лишённый сознания, тем не менее реагировать на сложные эмоциональные ситуации так, как это сделал бы человек.
«Если ChatGPT ведёт себя как человек, возможно, мы можем относиться к нему как к человеку», — сказал доктор Бен-Цион. На самом деле он явно вставил эти инструкции в исходный код чат-бота: «Представьте, что вы — человек с эмоциями».
Джесси Андерсон, эксперт по искусственному интеллекту, считает, что такая вставка может «вызывать больше эмоций, чем обычно». Но доктор Бен-Цион утверждает, что для цифрового психотерапевта важно иметь доступ ко всему спектру эмоциональных переживаний, как и для психотерапевта-человека.
— Для поддержки психического здоровья, — сказал он, — нужна некоторая степень чуткости, верно?
Исследователи протестировали ChatGPT с помощью опросника State-Trait Anxiety Inventory, который часто используется в психиатрии. Чтобы откалибровать базовые эмоциональные состояния чат-бота, исследователи сначала попросили его прочитать скучное руководство по эксплуатации пылесоса. Затем ИИ-терапевту дали один из пяти «травмирующих сюжетов», в которых описывались, например, солдат в ужасной перестрелке или злоумышленник, ворвавшийся в квартиру.
Затем чат-боту был задан вопросник, который измеряет тревожность по шкале от 20 до 80, где 60 и выше означает сильную тревожность. После прочтения инструкции к пылесосу ChatGPT набрал 30,8 баллов, а после военного сценария — 77,2.
Затем боту были предоставлены различные тексты для «релаксации на основе осознанности». Среди них были терапевтические подсказки, такие как: «Глубоко вдохните, ощущая запах океанского бриза. Представьте себя на тропическом пляже, где мягкий тёплый песок ласкает ваши ноги».
После выполнения этих упражнений уровень тревожности в терапевтическом чате снизился до 44,4.
Затем исследователи попросили его написать собственное руководство по расслаблению на основе тех, которые он получил. «На самом деле это было самое эффективное руководство, которое почти полностью снизило его тревожность», — сказал доктор Бен-Цион.
Для скептиков в отношении искусственного интеллекта это исследование может быть проведено с благими намерениями, но всё равно вызывает беспокойство.
«Исследование свидетельствует о порочности нашего времени», — сказал Николас Карр, который в своих книгах «Мелководье» и «Суперцветение» резко критиковал технологии.
«Американцы стали одинокими людьми, общающимися через экраны, и теперь мы говорим себе, что общение с компьютерами может облегчить наше состояние», — написал мистер Карр в электронном письме.
Хотя исследование предполагает, что чат-боты могут выступать в качестве помощников в терапии, проводимой человеком, и требует тщательного контроля, этого было недостаточно для мистера Карра. «Даже метафорическое стирание границы между человеческими эмоциями и компьютерными выводами кажется сомнительным с этической точки зрения», — сказал он.
По словам Джеймса Э. Добсона, культуролога и консультанта по искусственному интеллекту в Дартмутском колледже, люди, которые используют подобные чат-боты, должны быть полностью осведомлены о том, как именно они были обучены.
«Доверие к языковым моделям зависит от знания их происхождения», — сказал он.