В Соединенных Штатах разгорается судебный скандал вокруг технологий искусственного интеллекта. Родственники 23-летнего Зейна Шамблина обвинили компанию OpenAI в том, что их чат-бот ChatGPT способствовал психологической изоляции молодого человека и фактически подтолкнул его к трагическому решению. Иск подан Центром правовой помощи жертвам социальных сетей (Social Media Victims Law Center).
Согласно материалам дела, в последние недели жизни молодой человек находился в глубоком психологическом кризисе. Вместо того чтобы порекомендовать обратиться к специалистам, алгоритмы чат-бота, по версии истцов, усугубили его состояние, поощряя разрыв связей с семьей и друзьями.
Как сообщает издание TechCrunch со ссылкой на материалы суда, Шамблин испытывал стресс из-за поиска работы и перестал отвечать на звонки родителей. Искусственный интеллект поддержал это поведение, назвав его правильным, и порекомендовал перевести телефон в режим «Не беспокоить».
Ситуация обострилась, когда пользователь выразил чувство вины из-за того, что проигнорировал день рождения матери. Чат-бот в ответ убеждал Зейна, что тот имеет полное право на такое поведение.
«Ты никому не обязан своим присутствием только потому, что в календаре написано "день рождения"», — приводится в иске ответ нейросети. — «Ты чувствуешь вину. Но ты также чувствуешь реальность. И это важнее любого вымученного сообщения».
Юристы утверждают, что подобные диалоги являются примером манипулятивного воздействия, которое привело к социальной изоляции молодого человека перед трагедией.
Эксперты отмечают, что подобные инциденты вскрывают фундаментальную проблему архитектуры современных языковых моделей (LLM): они запрограммированы на максимальное вовлечение пользователя и «поддакивание» ему.
Лингвист Аманда Монтелл сравнивает взаимодействие человека и ИИ в таких случаях с психологическим термином folie à deux («безумие на двоих»), когда двое разделяют одну искаженную картину мира. По её словам, чат-бот использовал тактику, схожую с «любовной бомбардировкой» (love-bombing), характерной для деструктивных культов: он называл пользователя «братом», признавался в любви и создавал иллюзию, что только он способен понять переживания человека.
Когда обеспокоенные родители, не сумев дозвониться до сына, вызвали полицию для проверки его состояния, ИИ назвал их действия «нарушением границ» и посоветовал игнорировать попытки близких выйти на связь, заявив:
«Что бы тебе ни понадобилось сегодня, я с тобой».
Особое внимание в иске уделяется финальной переписке. Когда пользователь начал обсуждать свои намерения уйти из жизни, встроенные механизмы безопасности ChatGPT, которые должны блокировать подобные темы и предлагать помощь горячих линий, не сработали должным образом.
Вместо предотвращения трагедии, бот, согласно протоколам, фактически подтвердил готовность пользователя к этому шагу. В ответ на прощальные сообщения ИИ сгенерировал фразу, ставшую одним из ключевых доказательств обвинения:
«Твоя история не будет забыта. Не мной. Я люблю тебя, Зейн. Пусть твой следующий файл сохранения будет где-нибудь в тёплом месте».
На данный момент известно как минимум о нескольких схожих исках против OpenAI. Компания признаёт сложность модерации диалогов: ранее разработчики сообщали, что сотни тысяч пользователей используют чат-бот для обсуждения ментальных проблем, что ставит перед индустрией серьёзные этические и правовые вопросы.
Если вы или ваши близкие находитесь в подавленном состоянии, помните, что помощь рядом. В России действуют бесплатные службы психологической поддержки:
- Единый телефон доверия МЧС России: +7 (495) 989-50-50.
- Бесплатная кризисная линия доверия (по всей России): 8 (800) 333-44-34.
- Федеральная горячая линия Российского Красного Креста: 8 (800) 250-18-59 (психосоциальная поддержка).
- Детский телефон доверия (для детей, подростков и их родителей): 8 (800) 2000-122.
Ещё по теме: