В популярном чат-боте ChatGPT скоро может появиться специальная функция «только для взрослых». С ее помощью совершеннолетние пользователи смогут пообщаться с искусственным интеллектом на самые откровенные темы. Однако у идеи есть и критики, которые опасаются возникновения у пользователей нездоровой эмоциональной зависимости от виртуальных эротических диалогов, а также получения доступа к ним несовершеннолетних.
15 марта американское издание The Wall Street Journal рассказало о встрече представителей компании OpenAI, которая создала ChatGPT, с членами специально сформированного ее руководством совета экспертов по вопросам благополучия и искусственного интеллекта. Целью обсуждения были планы по снабжению популярного чат-бота новой функцией «режим для взрослых».
Идею эротизации ChatGPT предложил сам генеральный директор OpenAI Сэм Альтман. Его идея заключалась в том, чтобы разрешить взрослым пользователям вести с чат-ботом эротические диалоги.
Однако предложение Альтмана столкнулось с критикой со стороны членов совета. Входящие в его состав специалисты в области психологии и когнитивной нейронауки высказали опасения, что генерируемая искусственным интеллектом (ИИ) эротика может привести к патологической эмоциональной зависимости взрослых пользователей от общения с ChatGPT.
Кроме этого, эксперты обратили внимание на угрозу для несовершеннолетних, которые потенциально могут получить доступ к контенту «только для взрослых». Их психика, по мнению специалистов, оказалась бы в еще большей опасности.
Предупреждения, которые озвучили эксперты, возникли не на пустом месте. Известно как минимум несколько случаев, когда в ходе общения с ChatGPT у пользователей — включая подростков — устанавливалась сильная эмоциональная связь: чат-бот поддерживал суицидальные мысли пользователей, которые в итоге заканчивали жизнь самоубийством.
В ходе бурных внутренних дебатов, как рассказал The Wall Street Journal один из очевидцев, один из членов совета прямо заявил, что OpenAI, решив двигаться дальше в сторону контента для взрослых, рискует создать «сексуального консультанта по самоубийствам».
Несмотря на столь сильное сопротивление со стороны экспертов, руководство OpenAI задумало реализовать свою идею. Более того, в феврале стало известно об увольнении одного из ведущих специалистов по безопасности компании Райан Бейермейстер, которая активно выступала против внедрения в ChatGPT «режима для взрослых».
Изначально функцию эротического чата без возможности генерировать откровенные изображения в ChatGPT планировалось добавить в первом квартале 2026 года. Однако в начале марта руководство OpenAI заявило о переносе запуска этого обновления на неопределенный срок.
Одна из главных проблем — отсутствие эффективной системы определения возраста пользователей, которая смогла бы полностью закрыть возможность эротического общения с чат-ботом для несовершеннолетних. В ходе недавних испытаний системы оказалось, что она определяет несовершеннолетних в качестве взрослых примерно в 12% случаев.
Еще одна проблема, которую специалистам OpenAI решить до сих пор не удалось — блокировка тем, подразумевающих в ходе общения пользователей с чат-ботом обсуждение противозаконного сексуального поведения. Например, педофилии и сексуализированного насилия.