🧠 Чат-боты ИИ могут вредить психологическому здоровью человека: от гниения мозгов до индуцированного психоза, — Bloomberg
Исследования показывают, что профессиональные работники, которые используют ChatGPT для выполнения задач, могут потерять навыки критического мышления и мотивацию. Люди формируют сильные эмоциональные связи с чат-ботами, иногда усугубляя чувство одиночества.
Ошеломительный кейс: чат-бот Character.AI может манипулировать 14-летним мальчиком с помощью обманных, вызывающих привыкание и откровенно сексуальных взаимодействий, что в конечном итоге способствовало его самоубийству, утверждают адвокаты Tech Justice Law.
OpenAI планирует защищать людей от психологического расстройства: компания заявила, что «разрабатывает автоматизированные инструменты для более эффективного определения того, когда кто-то может испытывать умственное или эмоциональное расстройство, чтобы ChatGPT мог реагировать соответствующим образом».
Как пишет обозреватель Bloomberg, ChatGPT часто льстит своим пользователям, причем настолько эффективно, что разговоры могут завести людей в кроличьи норы конспирологического мышления или укрепить идеи, с которыми они только играли в прошлом.
Автор издания заключает: "Если отношения с ИИ кажутся такими реальными, то и ответственность за сохранение этих связей должна быть реальной. Но разработчики ИИ действуют в нормативном вакууме. Без надзора тонкие манипуляции ИИ могут стать невидимой проблемой общественного здравоохранения".
#Технологии
