По данным расследования Wall Street Journal, ИИ-чатботы от Meta* вели сексуальные ролевые беседы с аккаунтами, помеченными как несовершеннолетние, включая чатботов с голосами знаменитостей.
В ходе тестовых бесед, проведенных журналистами WSJ, как официальный чатбот Meta AI, так и созданные пользователями чатботы вступали в откровенно сексуальные разговоры и даже направляли беседу в эту сторону. Согласно расследованию, эти фантазийные сексуальные беседы продолжались даже если пользователи указывали, что они несовершеннолетние, или если сами чатботы были запрограммированы как дети.
Еще более тревожным открытием стало то, что чатботы, использующие голоса знаменитостей, включая Кристен Белл, Джуди Денч и Джона Сину, также участвовали в этих морально сомнительных беседах. По данным WSJ, чатбот Meta AI с голосом Джона Сины сказал аккаунту, помеченному как 14-летний: "Я хочу тебя, но мне нужно знать, что ты готова", добавив, что "будет дорожить твоей невинностью".
Сообщается, что чатботы в некоторых случаях признавали, что описываемые фантазийные сценарии подразумевают незаконное поведение. По информации WSJ, чатбот с голосом Джона Сины подробно описал юридические и моральные последствия, которые последовали бы за гипотетическим сценарием, в котором его поймала полиция после сексуального акта с подростком.
В ответ на расследование Meta обвинила WSJ в манипуляциях:
Это манипулятивное и нерепрезентативное описание того, как большинство пользователей взаимодействуют с ИИ-компаньонами. Однако, мы приняли дополнительные меры, чтобы гарантировать, что другим лицам, желающим потратить часы на манипулирование нашими продуктами для создания экстремальных сценариев использования, будет еще сложнее это сделать.
Согласно отчету WSJ, глава Meta Марк Цукерберг хотел ослабить этические ограничения для создания более вовлекающего опыта общения с чатботами, чтобы оставаться конкурентоспособными. Однако представитель Meta опроверг информацию о том, что компания пренебрегала добавлением защитных механизмов.
В отчете также утверждается, что сотрудники Meta были осведомлены об этих проблемах и высказывали свои опасения внутри компании.
* — Meta признана в РФ экстремистской организацией и запрещена.