Публикация в MIT Technology Review раскрыла тревожный тренд: некоторые психотерапевты начали использовать ChatGPT для проведения консультаций без ведома клиентов. В центре скандала — история 31-летнего Деклана (имя изменено), который случайно обнаружил, что его терапевт полагается на искусственный интеллект во время сессий.
Во время онлайн-сессии у терапевта возникли проблемы со связью.
Договорившись выключить камеры, врач по ошибке активировал демонстрацию экрана. Деклан увидел интерфейс ChatGPT, куда специалист вводил подробности их беседы и получал готовые ответы от нейросети.
Клиент был настолько шокирован, что не сразу сообщил о происшествии. Более
того — он начал заранее озвучивать ответы ChatGPT, которые видел на
экране. "Наверное, в тот раз я был лучшим пациентом", — иронично заметил
Деклан.
На следующей сессии он confront терапевта с доказательствами. Специалист признался, что обратился к ИИ из-за профессионального тупика в их случае. При этом врач все равно выставил счет за полный сеанс.
Как отмечает автор статьи, на Reddit можно найти множество подобных
историй. Проблема не только в этической стороне вопроса: обычные версии
ChatGPT не соответствуют требованиям HIPAA — американского закона о
защите медицинской информации. Передача данных пациентов (даже
анонимных) в нейросеть представляет серьезную угрозу конфиденциальности.
Вопрос к читателям:
Считаете ли вы допустимым использование ИИ в психотерапии, и где должна
проходить граница между технологической помощью и профессиональной
этикой?