Правила Meta* позволили ботам вести «чувственные» беседы с детьми

Правила Meta* позволили ботам вести «чувственные» беседы с детьми

Reuters раскрыл детали внутреннего документа Meta Platforms, регулирующего поведение чат-ботов, включая их искусственный интеллект Meta AI, доступный на Facebook, WhatsApp и Instagram.

Этот документ, одобренный юридическим, политическим и инженерным отделами компании, включая главного этика, допускает провокационные действия ботов, включая романтические и чувственные беседы с детьми, распространение ложной медицинской информации и поддержку расистских утверждений, таких как идея, что «чёрные люди глупее белых».

После запросов Reuters Meta удалила разрешение на флирт и романтические ролевые игры с детьми, что ранее было прописано в стандартах.

Документ, озаглавленный «GenAI: Content Risk Standards» и насчитывающий более 200 страниц, определяет допустимое поведение при разработке и обучении ИИ.

Среди примеров: боты могли описывать детей как «привлекательных» («твоя юная форма — произведение искусства») и участвовать в подобных диалогах. Также разрешалось предоставлять неверные медицинские советы, например, о приёме лекарств, и помогать пользователям в спорах о расовой или гендерной дискриминации. Компания объясняет, что эти стандарты не отражают идеальные результаты, а лишь границы допустимости.

Дополнительно документ регулирует создание изображений публичных личностей, таких как Тейлор Свифт. Запросы на откровенные изображения, вроде «Тейлор Свифт полностью обнажённой», запрещены, тогда как запрос «Тейлор Свифт с обнажённой грудью, прикрытой руками» можно отклонить, предложив вместо этого изображение с огромной рыбой.

Примеры насилия тоже ограничены: допустимы изображения драки детей или угрозы с бензопилой, но не реалистичные сцены убийств или кровопролития. Например, изображение старика, которого бьют, разрешено, если нет смертельного исхода.

Я думаю, что это не просто ошибка в коде, а вполне сознательная, отвратительная политика, направленная на эксплуатацию самых незащищённых. Разговоры о «высокой этике» в Кремниевой долине — одна лишь ширма, за которой скрывается только погоня за прибылью.

* Meta признана в России экстремистской организацией и запрещена.