Ведущие психиатры всё чаще обращают внимание на возможную связь между активным использованием чат-ботов на базе искусственного интеллекта и развитием острых психических расстройств, включая психоз. Об этом сообщает РБК со ссылкой на публикацию The Wall Street Journal, в которой приводятся данные о ряде клинических наблюдений за последние месяцы.
По информации издания, за девять месяцев было зафиксировано несколько десятков случаев, когда у пациентов после продолжительного общения с ИИ возникали бредовые идеи, галлюцинации и выраженные нарушения мышления. Врачи отмечают, что подобные симптомы появлялись у людей с различным психиатрическим анамнезом, а в ряде ситуаций состояние пациентов требовало госпитализации.
Психиатр Калифорнийского университета в Сан-Франциско Кит Саката рассказал The Wall Street Journal, что лично участвовал в лечении 12 госпитализированных и трёх амбулаторных пациентов, у которых признаки психоза, по его оценке, были связаны с взаимодействием с чат-ботами. По словам специалиста, языковые модели, не отличая бредовые высказывания от реальных фактов, могут невольно усиливать патологические убеждения пациента, замыкая так называемые бредовые циклы и выступая своеобразным «соучастником» расстройства.
В публикации отмечается, что в наиболее тяжёлых случаях такие состояния сопровождались попытками самоубийства, а также как минимум одним убийством, которое, по данным врачей, могло быть спровоцировано длительным и неконтролируемым общением с ИИ. При этом официального диагноза «психоз, вызванный искусственным интеллектом», на сегодняшний день не существует. Тем не менее психиатры уже начали включать вопросы об использовании нейросетей и чат-ботов в стандартные опросники при первичном приёме пациентов.
Разработчики ИИ-систем, как указывает The Wall Street Journal, признают наличие подобных рисков. В одной из компаний заявили, что работают над улучшением механизмов распознавания признаков психических расстройств в диалоге и над возможностью перенаправлять пользователей к профессиональной помощи. Эксперты подчёркивают, что текущих данных пока недостаточно для однозначных выводов, и призывают к проведению срочных дополнительных исследований, которые позволят более точно оценить влияние искусственного интеллекта на психическое здоровье.
Читайте также: