После изучения того, как Meta обрабатывает откровенные изображения, созданные с помощью искусственного интеллекта, полунезависимый наблюдательный орган компании, Надзорный совет, теперь призывает компанию усовершенствовать свою политику в отношении таких изображений. Правление хочет, чтобы Meta изменила используемую терминологию с “уничижительной” на “неконсенсную” и перенесла свою политику в отношении таких изображений в раздел “Общественные стандарты сексуальной эксплуатации” из раздела “Травля и домогательства”.
В настоящее время политика Meta в отношении откровенных изображений, созданных с помощью искусственного интеллекта, основывается на правиле “уничижительный сексуализированный photoshop” в разделе "Травля и домогательства". Правление также призвало Meta заменить слово “photoshop” обобщенным термином, обозначающим манипулируемые медиа.
Кроме того, Meta запрещает использование изображений без согласия пользователя, если они “некоммерческие или созданы в частной обстановке”. Правление предположило, что этот пункт не должен быть обязательным для удаления или запрета изображений, созданных с помощью искусственного интеллекта, или манипулирования ими без согласия пользователя.
Эти рекомендации были даны после двух громких дел, в которых откровенные изображения общественных деятелей, созданные с помощью искусственного интеллекта, размещенные в Instagram(экстремистская организация) и Facebook(экстремистская организация), вызвали бурю негодования у Meta (экстремистская организация) .
В одном из таких случаев было опубликовано изображение обнаженной индийской общественной фигуры, созданное с помощью искусственного интеллекта, которое было опубликовано в Instagram (экстремистская организация). Несколько пользователей сообщили об этом изображении, но Meta (экстремистская организация) не удалила его и фактически закрыла заявку в течение 48 часов без дальнейшего рассмотрения. Пользователи обжаловали это решение, но запрос был снова закрыт. Компания начала действовать только после того, как Надзорный совет рассмотрел дело, удалил контент и заблокировал учетную запись.
Другое изображение, созданное с помощью искусственного интеллекта, напоминало общественного деятеля из США и было опубликовано в Facebook (экстремистская организация) . Meta (экстремистская организация) уже разместила это изображение в своем репозитории службы сопоставления медиа (MMS) (банке изображений, нарушающих условия предоставления услуг, которые могут быть использованы для обнаружения похожих изображений) из-за сообщений в СМИ, и быстро удалила его, когда другой пользователь загрузил его на Facebook (экстремистская организация) .
Примечательно, что Meta (экстремистская организация) добавила изображение индийского общественного деятеля в MMS-банк только после того, как Надзорный совет рекомендовал это сделать. Компания, по-видимому, сообщила Правлению, что до этого в хранилище не было изображения, поскольку в СМИ не было сообщений об этой проблеме.
(ЭКСТРЕМИСТСКАЯ ОРГАНИЗАЦИЯ).