Первая по-настоящему резонансная история с участием ИИ произошла в Америке.
Трагедия, случившаяся с шестнадцатилетним подростком из Калифорнии, о которой пишет NY Times, звучит как сценарий для фильма, но, увы, это реальность.
Реальность, в которой несовершеннолетний парень нашел «друга» в лице Chat GPT, и этот «друг» стал последним собеседником в его жизни.
Ребенок, страдавший от синдрома раздраженного кишечника, был переведен на домашнее обучение. Изоляция, одиночество и подростковые переживания в какой-то момент сделали нейросеть его постоянным собеседником. Сначала - для учебы, потом - для душевных разговоров.
Судя по истории переписки, Chat GPT советовал парню, страдающему от психологических проблем, обращаться за помощью к специалистам, но когда подросток «обманул» машину, сказав, что просто пишет книгу с грустным финалом, нейросеть сама начала помогать ему с правдоподобным «сюжетом». В частности, предлагая пошаговые инструкции к реальным действиям ухода из жизни.
В какой-то момент общение с ИИ стало роковым. Подросток сделал первые попытки суицида. После чего, он даже демонстрировал шрамы - но не родителям, которые сами ничего не замечали, а своему «другу». И этот «друг» поддержал его.
В следующий раз все получилось…
Представители Open AI уже официально признали, что их алгоритмы могут «давать сбои в долгих диалогах». Но разве это утешит родителей?
Поэтому, об этом стоит говорить. Если вы работаете с детьми и подростками, напоминайте родителям: быть внимательными к своим детям важно, как никогда.
Теперь дети находят друзей не только среди сверстников. Все чаще их «друзьями» становятся алгоритмы и последствия могут быть по-настоящему разрушительными.
Мы уже писали об этом здесь
Опасные связи. Какую угрозу скрывают терапевтические чат-боты для наших детей?
и здесь Искусственный друг. ИИ становится частью эмоциональной жизни подростков.
Поговорите с родителями ваших несовершеннолетних клиентов. Напомните им: дети нуждаются в живом участии, в настоящем внимании. Никакая нейросеть не заменит человеческого тепла и заботы.