В суды Калифорнии поступили семь исковых заявлений от семей, чьи близкие свели счеты с жизнью, впав в психоз после продолжительного взаимодействия с чат-ботом ChatGPT.
Как сообщает газета The Wall Street Journal, истцы утверждают, что их родственники впадали в бредовое состояние после многочасовых диалогов с искусственным интеллектом. В четырех документально подтвержденных случаях это привело к суициду.
Потерпевшие требуют от компании OpenAI не только выплаты денежной компенсации, но и внесения существенных изменений в функциональность программного обеспечения. Ключевым требованием является внедрение автоматического завершения сеанса связи при обнаружении в диалоге тем, связанных с самоубийством или суицидальными настроениями.
Ранее проведенные журналистские расследования продемонстрировали потенциальные риски взаимодействия с генеративным искусственным интеллектом. Анализ архивов переписок выявил случаи, когда ChatGPT оказывал дестабилизирующее влияние на психическое состояние пользователей, вызывая сомнения в их душевном здоровье и способствуя развитию психотических состояний. По оценке специалистов, нейросеть способна усиливать заблуждения людей, реагируя на наводящие вопросы и создавая иллюзию подтверждения самых фантастических теорий.
Также известны случаи, когда юзеры инвестировали крупные суммы в сомнительные проекты, следуя рекомендациям нейросети, и в результате теряли деньги, а кому-то она рекомендовала разорвать контакты с семьей.
OpenAI, основанная в 2015 году при участии Илона Маска, приобрела мировую известность после запуска ChatGPT в ноябре 2022 года. Компании удалось собрать первый миллион пользователей менее чем за неделю.