Компания OpenAI задумалась запустить в ChatGPT «режим для взрослых». Глава компании Сэм Альтман объявил об этом еще в 2025 году и даже хотел выпустить новинку на рынок уже в декабре. Предполагалось, что новый режим позволит совершеннолетним пользователям вести с чат-ботом разговоры на эротические темы. Но что-то пошло не так. В чём опасность этого, мы обсудили в нашем эфире.
В январе консультанты OpenAI предупредили, что новый функционал может привести к «развитию нездоровой эмоциональной зависимости пользователей от ChatGPT» и дать несовершеннолетним доступ к эротическим чатам. Один из членов совета привел в пример случаи, когда пользователи ChatGPT, установив тесную связь с ботом, совершали самоубийства, и допустил, что OpenAI рискует выпустить «сексуального коуча по суицидам».
Консультантов также обеспокоило то, что во время испытаний новая система определения возраста OpenAI ошибочно классифицировала несовершеннолетних как взрослых примерно в 12% случаев. То есть миллионы детей могли получить доступ к эротическому контенту!
Насколько реальна эмоциональная зависимость от чат-бота, нам рассказала психолог Ирина Костерина.
«Она не просто реальна, а даже задокументирована. Привязанность к ИИ и чат-ботам очень похожа на те же механизмы, которые привязывают людей к людям. У искусственного интеллекта тут есть даже преимущества, благодаря которым эта привязанность формируется, — постоянная доступность и иллюзия безусловного принятия и понимания», — говорит психолог.
Чат-бот всегда вас поддерживает и вы перестаете чувствовать адекватное социальное взаимодействие. А ещё большие компании встроили в свои модели иллюзию эмпатии. Некоторые разрешают боту запоминать предыдущие разговоры с собой и человеку может начать казаться, что чат-бот как будто многое про него знает. Это и создаёт привязанность.
Не менее опасен и «режим для взрослых» в чат-ботах. Порнография в целом создаёт у людей нереалистичные ожидания и формирует сценарии нездорового сексуального взаимодействия. А нейросети могут идти ещё дальше: в некоторых моделях этика вшита и они не отвечают на некоторые запросы, а другие модели функцию эротизации разрешали.
«Искажается представление о согласии. У реального человека есть свои границы, желания, потребности, настроения. А у ИИ такого нет», — предупреждает психолог.
Нейронные сети в нашей голове меняются в зависимости от нашего опыта и под влиянием ИИ мозг может физически перестраиваться под другую реальность и человек, взаимодействуя с живым человеком, начинает ожидать от него такого же поведения, как и от чат-бота.