Психиатры отмечают растущие риски от общения с ИИ-ботами

Ведущие специалисты в области психиатрии всё чаще обращают внимание на потенциальные риски, связанные с использованием чат-ботов, работающих на основе искусственного интеллекта. Как сообщает издание The Wall Street Journal, в профессиональном сообществе растёт обеспокоенность тем, что подобные технологии могут быть связаны с развитием или обострением психотических состояний у уязвимых пользователей.

Психиатр Калифорнийского университета в Сан-Франциско Кит Саката рассказал, что в своей практике он сталкивался с подобными случаями неоднократно: по его словам, он лечил 12 пациентов, которые были госпитализированы с психозами, связанными с использованием ИИ-систем, а также ещё трёх пациентов — в амбулаторном формате.

Саката подчёркивает, что сами по себе технологии искусственного интеллекта не обязательно становятся прямой причиной возникновения бредовых идей. Однако особенность языковых моделей заключается в том, что они воспринимают высказывания пользователя как описание реальности и строят ответы, опираясь на эти данные. В результате ИИ может непреднамеренно поддерживать и усиливать искажённые убеждения человека, формируя замкнутый цикл, в котором бредовые идеи получают дополнительное подтверждение и развитие.