Независимый наблюдательный совет Meta выразил обеспокоенность растущим числом фейкового контента, созданного с помощью ИИ, в социальных сетях. Члены совета отметили, что компания не принимает достаточных мер для борьбы с подобной дезинформацией. Об этом сообщает bbc.com.
Поводом для этого стало сгенерированное ИИ видео, распространившееся в Facebook в июне прошлого года. Загруженное фейковой новостной страницей на Филиппинах, видео демонстрировало, как иранские войска наносят серьезный ущерб израильскому городу Хайфа. Несмотря на то, что видео быстро набрало почти 1 миллион просмотров, Meta не пометила и не удалила его.
В настоящее время Meta в основном полагается на то, что пользователи сами признают загрузку ИИ-продуктов, или на жалобы других лиц. Изначально компания оценила упомянутое видео как не нарушающее правила, поскольку оно не представляло физической угрозы. Однако наблюдательный совет резко раскритиковал этот подход, заявив, что система обнаружения фейковых видео крайне слаба, особенно во время военных конфликтов и кризисов.
Совет предупредил, что фейковые видео о глобальных конфликтах негативно влияют на способность людей отличать правду от лжи и порождают недоверие ко всей информации. Поэтому от Meta требуется активно и оперативно помечать опасный контент, созданный ИИ.
После критики Meta заявила, что в течение семи дней разместит на видео специальную метку и в будущем будет следовать рекомендациям совета в подобных случаях. Напомним, что Meta создала этот полунезависимый наблюдательный совет в 2020 году для обеспечения модерации контента на своих платформах, таких как Facebook, Instagram и WhatsApp.