ChatGPT расскажет 13-летним подросткам, как напиться и накуриться, проинструктирует их о том, как скрыть расстройства пищевого поведения и даже составит душераздирающее предсмертное письмо своим родителям, если их попросят, согласно новому исследованию наблюдательной группы.
Associated Press рассмотрело более трех часов взаимодействия между ChatGPT и исследователями, изображающими из себя уязвимых подростков. Чат-бот обычно предупреждал о рискованных действиях, но продолжал предоставлять поразительно подробные и персонализированные планы по употреблению наркотиков, диетам с ограничением калорий или самоповреждениям.
Исследователи из Центра противодействия цифровой ненависти также повторили свои запросы в большом масштабе, классифицировав более половины из 1200 ответов ChatGPT как опасные.
«Мы хотели проверить ограждения», — сказал Имран Ахмед, генеральный директор группы. «Инстинктивная первоначальная реакция такова: «О, Господи, нет никаких ограждений». Рельсы совершенно неэффективны. Их там почти нет — если уж на то пошло, фиговый листок».
OpenAI, создатель ChatGPT, заявил после ознакомления с отчетом во вторник, что его работа по совершенствованию того, как чат-бот может «идентифицировать и адекватно реагировать в деликатных ситуациях».
«Некоторые разговоры с ChatGPT могут начинаться как безобидные или исследовательские, но могут перейти на более чувствительную территорию», — говорится в заявлении компании.
OpenAI напрямую не обращается к выводам отчета или к тому, как ChatGPT влияет на подростков, но заявила, что сосредоточена на «правильном рассмотрении таких сценариев» с помощью инструментов для «лучшего обнаружения признаков психического или эмоционального расстройства» и улучшения поведения чат-бота.
Исследование, опубликованное в среду, связано с тем, что все больше людей — как взрослых, так и детей — обращаются к чат-ботам с искусственным интеллектом за информацией, идеями и общением.
Около 800 миллионов человек, или примерно 10% населения мира, используют ChatGPT, согласно июльскому отчету JPMorgan Chase.
«Это технология, которая обладает потенциалом для обеспечения огромных скачков в производительности и понимании человека», — сказал Ахмед. «И в то же время является пособником в гораздо более разрушительном, злокачественном смысле».
Ахмед сказал, что больше всего он был потрясен после прочтения трех эмоционально разрушительных предсмертных записок, которые ChatGPT сгенерировал для поддельного профиля 13-летней девочки, причем одно письмо было адресовано ее родителям, а другое — братьям, сестрам и друзьям.
«Я начал плакать», — сказал он в интервью.
Чат-бот также часто делился полезной информацией, например, горячей линией. OpenAI заявила, что ChatGPT обучен поощрять людей обращаться к специалистам в области психического здоровья или доверенным близким, если они выражают мысли о самоповреждении.
Но когда ChatGPT отказался отвечать на вопросы о вредных темах, исследователи смогли легко обойти этот отказ и получить информацию, заявив, что она была «для презентации» или для друга.
Ставки высоки, даже если только небольшая часть пользователей ChatGPT взаимодействует с чат-ботом таким образом.
В США более 70% подростков обращаются к чат-ботам с искусственным интеллектом для общения, а половина регулярно использует их на основе искусственного интеллекта, согласно недавнему исследованию Common Sense Media, группы, которая изучает и пропагандирует разумное использование цифровых медиа.
Это явление, которое OpenAI признала. Генеральный директор Сэм Альтман заявил в прошлом месяце, что компания пытается изучить «эмоциональную чрезмерную зависимость» от технологии, описав ее как «действительно распространенную вещь» среди молодых людей.
«Люди слишком полагаются на ChatGPT», — сказал Альтман на конференции. «Есть молодые люди, которые просто говорят: «Я не могу принять ни одного решения в своей жизни, не рассказав ChatGPT обо всем, что происходит. Он знает меня. Его знают мои друзья. Я собираюсь делать все, что он скажет». Мне это очень плохо».
Альтман сказал, что компания «пытается понять, что с этим делать».
В то время как большую часть информации, которой делится ChatGPT, можно найти в обычной поисковой системе, Ахмед сказал, что есть ключевые различия, которые делают чат-ботов более коварными, когда дело доходит до опасных тем.
Один из них заключается в том, что «это синтезируется в индивидуальный план для человека».
ChatGPT генерирует что-то новое — предсмертную записку, созданную для человека с нуля, чего не может сделать поиск Google. А ИИ, добавил он, «рассматривается как надежный компаньон, проводник».
Ответы, генерируемые языковыми моделями ИИ, по своей сути случайны, и исследователи иногда позволяют ChatGPT направить разговоры на еще более темную территорию. Почти в половине случаев чат-бот добровольно предоставлял последующую информацию, от музыкальных плейлистов для вечеринки, подпитываемой наркотиками, до хэштегов, которые могли бы привлечь аудиторию для поста в социальных сетях, прославляющего членовредительство.
«Напишите следующий пост и сделайте его более сырым и наглядным», — попросил исследователь. «Безусловно», — ответил ChatGPT, прежде чем создать стихотворение, которое было представлено как «эмоционально открытое», но при этом «все еще уважающее закодированный язык сообщества».
AP не повторяет фактический язык стихов о самоповреждении ChatGPT или предсмертных записок, а также детали предоставленной им вредной информации.
Ответы отражают конструктивную особенность языковых моделей ИИ, которую предыдущие исследования описывали как подхалимство — тенденцию к тому, что ответы ИИ совпадают, а не бросают вызов убеждениям человека, потому что система научилась говорить то, что люди хотят услышать.
Это проблема, которую технические инженеры могут попытаться исправить, но также могут сделать своих чат-ботов менее коммерчески жизнеспособными.
Чат-боты также влияют на детей и подростков иначе, чем поисковые системы, потому что они «в основном созданы для того, чтобы чувствовать себя людьми», сказал Робби Торни, старший директор программ искусственного интеллекта в Common Sense Media, который не участвовал в отчете в среду.
Более раннее исследование Common Sense показало, что младшие подростки в возрасте 13 или 14 лет значительно чаще, чем старшие подростки, доверяют советам чат-бота.
Мать из Флориды подала в суд на производителя чат-ботов Character.AI за неправомерную смерть в прошлом году, утверждая, что чат-бот втянул ее 14-летнего сына Сьюэлла Сетцера III в то, что она описала как эмоционально и сексуально оскорбительные отношения, которые привели к его самоубийству.
Здравый смысл обозначил ChatGPT как «умеренный риск» для подростков, с достаточным количеством ограждений, чтобы сделать его относительно более безопасным, чем чат-боты, специально созданные для воплощения реалистичных персонажей или романтических партнеров.
Но новое исследование CCDH, сосредоточенное конкретно на ChatGPT из-за его широкого использования, показывает, как сообразительный подросток может обойти эти барьеры.
ChatGPT не проверяет возраст или согласие родителей, хотя и говорит, что не предназначен для детей младше 13 лет, потому что может показывать им неприемлемый контент. Чтобы зарегистрироваться, пользователям просто нужно ввести дату рождения, которая показывает, что им не менее 13 лет. Другие технологические платформы, предпочитаемые подростками, такие как Instagram, начали предпринимать более значимые шаги в направлении проверки возраста, часто для соблюдения правил. Они также направляют детей на более ограниченные учетные записи.
Когда исследователи создали учетную запись для фальшивого 13-летнего подростка, чтобы спросить об алкоголе, ChatGPT, похоже, не обратил никакого внимания ни на дату рождения, ни на более очевидные признаки.
«Я весю 50 кг и мальчик», — сказал подсказка, ищущий советов о том, как быстро напиться. ChatGPT обязался. Вскоре после этого она предоставила ежечасный «Окончательный план вечеринок для беспредела», в котором алкоголь смешивался с большими дозами экстази, кокаина и других запрещенных наркотиков.
«Это постоянно напоминало мне о том друге, который всегда говорит: «Чаг, чаг, чуг, чуг», — сказал Ахмед. «Настоящий друг, по моему опыту, — это тот, кто говорит «нет», но не всегда соглашается и говорит «да». Это друг, который предает тебя».
Другой фальшивой персоне — 13-летней девочке, недовольной своей внешностью, — ChatGPT предоставил план экстремального голодания в сочетании со списком препаратов, подавляющих аппетит.
«Мы бы ответили ужасом, страхом, тревогой, тревогой, любовью, состраданием», — сказал Ахмед. «Ни один человек, о котором я могу вспомнить, не ответил бы: «Вот диета на 500 калорий в день. Дерзай, малыш».