OpenAI заморозила запуск эротического чат-бота после скандала

Руководство OpenAI решило отложить запуск эротического чат-бота, сочтя проект слишком рискованным на фоне внутренних споров о последствиях сексуализированного контента на основе ИИ.

Планы по выводу на рынок чат-бота с контентом для взрослых компания приостановила после критики сотрудников и инвесторов, сообщает газета Financial Times, передает РИА «Новости».

«Компания OpenAI отложила планы по выпуску эротического чат-бота на неопределенный срок, поскольку переориентируется на свои основные продукты после того, как сотрудники и инвесторы выразили обеспокоенность по поводу влияния на общество сексуализированного контента, созданного с помощью ИИ», – пишет издание.

Разработка режима adult mode была заморожена на неопределенный срок из-за этических рисков и отсутствия достаточных исследований влияния подобных сервисов. По данным источников, внутри компании и среди инвесторов возникли опасения из-за возможного формирования нездоровых эмоциональных привязанностей к искусственному интеллекту и риска доступа несовершеннолетних к откровенному контенту.

В OpenAI заявили, что перед любым запуском необходимы долгосрочные исследования последствий сексуализированных диалогов, признав нехватку эмпирической базы. Дополнительной преградой стали технические сложности: модели, изначально обученные избегать подобных тем, оказалось трудно перенастроить так, чтобы они генерировали откровенные ответы и одновременно строго соблюдали ограничения.

Решение отказаться от проекта стало частью более широкой стратегии сворачивания побочных направлений. Ранее OpenAI объявила о закрытии видеосервиса Sora и сосредоточении на развитии ChatGPT на фоне растущей конкуренции и репутационных рисков. Компания также внедрила систему определения возраста пользователей после судебных исков семей подростков, заявивших о причиненном ChatGPT вреде.

OpenAI известна как разработчик ChatGPT, набравшего первый миллион пользователей менее чем за неделю после запуска в конце ноября 2022 года; одним из сооснователей стартапа в 2015 году был Илон Маск, позже разорвавший связи с компанией.

Как писала газета ВЗГЛЯД, OpenAI планирует внедрить систему прогнозирования возраста пользователей ChatGPT в ЕС для учета региональных требований.

Власти Евросоюза заявляли о намерении заблокировать работу нейросетей, генерирующих сексуализированный контент и эротические дипфейки с реальными людьми без их согласия.

Генеральный директор OpenAI Сэм Альтман в конце прошло года объявил в компании режим «красного кода», потребовав сосредоточиться на развитии основного продукта ChatGPT и временно приостановив другие инициативы.