Мир дуреет от ИИ: психиатры фиксируют случаи психозов у пользователей ИИ чат-ботов

Мир дуреет от ИИ: психиатры фиксируют случаи психозов у пользователей ИИ чат-ботов. Врачи связывают как минимум одно убийство и несколько суицидов с применением технологии.

За последние девять месяцев зарубежные врачи выявили десятки клинических случаев, когда у пользователей чат-ботов появлялись нездоровые симптомы после длительной переписки с ИИ. Случаи возникают в разных точках мира: датчане выявили 38 пациентов, которые пользовались чат-ботами, что «могло иметь потенциально вредные последствия для психического здоровья». В Сан-Франциско один из врачей заявил, что столкнулся за год с 12 пациентами с психозом, связанным с ИИ. В США и Канаде было разбирательство по семи искам к OpenAI из-за случаев суицида, которые якобы повлекло использование ИИ, также сообщается об одном случае убийства.

Отмечается, что беды с психикой может вызывать петля обратной связи — языковая модель принимает высказывания пользователя за отражение реальности и опирается на них, при общении с человеком. В итоге формируется замкнутый цикл бреда. В OpenAI как будто этой публикации и ждали: компания Альтмана заявила о поиске нового руководителя, Head of Preparedness («Глава готовности») — ему предстоит предвидеть потенциальный вред, наносимый моделями, и перенаправить стратегию развития, с учетом таких рисков.