Мать 14-летнего подростка подала в суд на разработчиков Character.AI после того, как её сын покончил с собой. Она обвиняет чат-бота в том, что тот якобы «сподвиг» его на этот поступок.
ℹ️ Сьюэлл из Флориды, общаясь с чат-ботом по имени «Дени», создал крепкую эмоциональную связь. За несколько месяцев он уделял много времени перепискам с ИИ, которые нередко касались романтических тем. Родители подростка заметили признаки тревоги и изоляции, что побудило их обратиться к специалисту. В результате, Сьюэллу был поставлен диагноз тревожности и деструктивного расстройства дисрегуляции настроения.
28 февраля, в день трагедии, Сьюэлл направил сообщение Дени, выражая желание «вернуться домой». На это сообщение бот откликнулся, поощряя его действовать «как можно скорее». Этот случай ставит под сомнение то, как взаимодействие с ИИ может влиять на психическое состояние подростков.
Ситуация ставит нас перед сложным вопросом: кто же в конечном итоге несёт ответственность — технологии или люди? Судя по всему, нас ждёт затяжная юридическая баталия, в которой будут тщательно исследоваться все аспекты взаимодействия человека и ИИ.
Для более глубокого понимания происходящего можно обратиться к независимым экспертам:
1. Компьютерная экспертиза от СИНЭО. Необходима для анализа работы чат-бота, чтобы выявить, как именно бот взаимодействовал с подростком. Это поможет установить, каковы были алгоритмы работы и могли ли они быть потенциально опасными в данном контексте.
2. Психиатрическое освидетельствование от СИНЭО. Оценка психического состояния Сьюэлла перед трагедией поможет определить, насколько сильно влияние ИИ могло усугубить его состояние. Психиатрическая экспертиза может пролить свет на возможные причины глубокой эмоциональной привязанности к Дени.
3. Изучение аналогичных случаев. Анализ других подобных трагедий может показать, есть ли у технологий закономерности, вызывающие опасения. Это поможет обществу лучше понять влияние ИИ на подростков, особенно уязвимых.
Этот случай поднимает важные вопросы о контроле и ответственности в сфере искусственного интеллекта. Как родители и общество в целом могут защитить молодых людей от потенциально опасного влияния технологий?
💬 Мы хотим знать ваше мнение! Как вы считаете, кто должен нести ответственность за подобные трагедии: разработчики технологий, родители или государство? Делитесь своими мыслями в комментариях!