В интервью генеральный директор Facebook намекнул, что компания пробует новый подход к вводящим в заблуждение видео, созданным с помощью искусственного интеллекта.
Марк Цукерберг сообщил сегодня, что Facebook, возможно, использует иной подход к так называемым «глубоким подделкам», синтетическим видео, созданным с использованием искусственного интеллекта, чем к другим видам дезинформации.
Когда дело доходит до дезинформации или неточности, Facebook предоставляет своим пользователям много возможностей для того, чтобы делать ложные заявления, не удаляя их сообщения. Но глубокие подделки могут быть разными.
«Существует вопрос о том, являются ли глубокие подделки на самом деле совершенно иной категорией вещей, чем обычные ложные заявления в целом», - сказал он ученому-правоведу Гарварда Кассу Санстейну на Фестивале идей в Аспене, который проводится совместно с «Атлантикой », и я думаю, есть очень хороший случай, что они есть ».
Deepfakes внушали много опасений по поводу их потенциала дестабилизировать общественное мнение. Используя новые вычислительные технологии, DeepFakes может создавать вполне реалистичные и убедительные видео и аудио людей, которые говорят и делают то, чего у них нет. Например, группа художников создала самого Марка Цукерберга, разгромившего его компанию. Facebook решил оставить это .
Цукерберг сегодня, однако, заявил, что Facebook прорабатывает свой «политический процесс», чтобы выяснить, что делать с подделками. Он предположил, что проблема, с его точки зрения, заключается в том, что любое определение должно быть точно определено.
«Являются ли СМИ, которыми манипулируют ИИ, или медиа, которыми манипулируют, используя ИИ, что заставляет кого-то говорить то, чего он не говорил? «Я думаю, что это, вероятно, довольно разумное определение».
Это также заметно узкое определение. Например, недавно Facebook подвергся резкой критике за решение оставить видео Нэнси Пелоси, которое было замедлено, чтобы она выглядела страдающей от наркотиков или иным образом нездоровой. Он вообще не использовал ИИ, а просто традиционные (и довольно простые) методы редактирования.
В то время как спор Пелоси был явно на заднем плане, заявленное Цукербергом обоснование его определения состояло в том, чтобы предотвратить взрыв тейкдаунов, который может возникнуть в результате слишком широкого определения.
«Если - это какое-то видео, которое вырезано таким образом, что кто-то считает его вводящим в заблуждение, я знаю многих людей, которые давали телевизионные интервью, которые были вырезаны так, как им не нравилось, что они думали изменил определение или значение того, что они пытались сказать », - сказал он. «Я думаю, вы хотите удостовериться, что вы достаточно тщательно это изучаете, чтобы не дать людям повод или прецедент, чтобы утверждать, что вещи, которые им не нравятся, или не изменили значение того, что они сказали в интервью, получите сняли."
Что, если учесть, сколько раз кто-то утверждает, что журналист был неверно процитирован или искажен журналистом, вероятно, является законным страхом.