Риски использования ИИ в качестве психологов: мнения экспертов

Искусственный интеллект проникает в самые интимные сферы нашей жизни. Теперь он готов выслушать наши проблемы и дать совет в трудную минуту. А что если это ловушка?

В Юнисофт мы недавно запустили проект виртуального психолога Ева (https://happy-eva.ru), и сразу столкнулись с парадоксом. Люди готовы рассказать алгоритму то, что никогда не доверят живому специалисту. Причина проста - никто не осудит, не поднимет бровь, не задаст неудобный вопрос. Плюс круглосуточная доступность без очередей и высоких цен. Когда у тебя паника в три утра, не будешь же звонить психологу и будить его семью.

Дефицит специалистов тоже играет роль. В регионе на 50 тысяч человек может быть 10-15 практикующих психологов. И половина из них работает с детьми или в госучреждениях. А частные консультации стоят от 3000 рублей за сеанс. Для многих это неподъемно.

Нейросети действительно умеют кое-что полезное. Они распознают паттерны в речи, выявляют признаки депрессии или тревожности по манере письма. Например могут анализировать не только слова, но и скорость набора, паузы между сообщениями, эмоциональную окраску. Иногда алгоритм замечает то что пропускает человек. Особенно эффективны техники когнитивно-поведенческой терапии - их можно автоматизировать без потери качества.

А вот что настораживает... ИИ не чувствует. Он может сказать правильные слова, но искренне сопереживать не способен. И это создает иллюзию понимания, которая порой опаснее полного отсутствия помощи. Люди привыкают к шаблонным ответам и начинают воспринимать их как норму в отношениях.

Безопасность данных это отдельная головная боль. Каждое сообщение пользователя может сохраняться на серверах и использоваться для обучения других моделей. Только вдумайтесь - ваши откровения могут завтра оказаться в открытом доступе или стать товаром на теневых площадках. Киберпреступники это понимают и охотятся за психологическими профилями порой даже активнее, чем за финансовыми данными.

А вот что интересно - наши пользователи часто становятся более открытыми в общении с реальными людьми после работы с Евой. Возможно, тренировка формулировать мысли и чувства действительно полезна. Но только как первый шаг к настоящей терапии.