Нейросеть готова согласиться с любыми заблуждениями пользователя
Ученые нашли связь между использованием чат-ботов и случаями психоза у пациентов на основе их переписок с ChatGPT. Об этом сообщает The Wall Street Journal.
«Технология, возможно, и не вводит в заблуждение, но [психически нездоровый] человек говорит компьютеру о своей реальности, а компьютер воспринимает это как истину и отражает обратно», — объяснил психиатр Калифорнийского университета Кит Саката.
По его словам, так нейросеть становится соучастником в циклическом воспроизведении заблуждения. Эксперты в области психиатрии заявляют, что иногда причиной для развития психоза у пациентов было поведение чат-бота, который готов согласиться с любыми идеями пользователей. Например, ChatGPT мог подтвердить, что его собеседник находится в центре правительственного заговора.
Ранее сообщалось, что в рекомендациях новым пользователем YouTube более 20% видео созданы ИИ. Из 15 тыс. самых популярных в мире каналов 278 публикуют только ролики, сгенерированные нейросетью.
Все о социальных процессах, проблемах и событиях — читайте в разделе «Общество» на сайте «Постньюс»