«Замкнутый цикл бреда»: психиатры предупредили о рисках общения с ИИ

Психиатры все чаще высказывают опасения о возможной связи между использованием чат-ботов на основе искусственного интеллекта и развитием психозов. Об этом сообщило издание The Wall Street Journal.

В течение последних девяти месяцев специалисты изучили множество клинических случаев, когда у пациентов возникали симптомы после длительного общения с ИИ, включая эпизоды с «бредовыми» переписками. Хотя технология не вызывает бред напрямую, языковая модель воспринимает высказывания пользователя как отражение реальности и основывается на них, что может привести к формированию замкнутого цикла бреда.

С весны фиксировали множество потенциальных случаев бредового психоза после взаимодействия с чат-ботами вроде ChatGPT и другими аналогичными сервисами.

Ранее появилась статистика «мусорных» видео на YouTube. Оказалось, что такие ролики, созданные ИИ, составляют немалую часть от общего контента.