Вы уже видел эти потрясающие фотографии. Папа Римский в модном пуховике. Владимир Путин, преклонив колени, целует руку Си Цзиньпина. Пентагон объятый дымом. Подвох? Ни одно из этих событий на самом деле не происходило. Каждое фото является ненастоящим. Или проще – дипфейком.
С развитием технологий И может стирать границы между реальностью и вымыслом, что приводит к значительным и далеко идущим последствиям.
Эффект Манделы
Этот термин назван в честь Нельсона Манделы, южноафриканского революционера и политика, выступающего против апартеида. Многие люди считали, что он умер в тюрьме в 1980-х годах, несмотря на многочисленные доказательства обратного. На самом деле он был освобожден в 1990 году, стал президентом южноафриканской страны и в конце концов скончался в 2013 году.
С тех пор эффект Манделы использовался для описания различных забытых событий или деталей, включая написание названий брендов, тексты песен, сюжеты фильмов или телешоу, а также детали исторических событий.
Что вызывает эффект Манделы?
Хотя причина эффекта Манделы до конца не изучена, существует несколько теорий, пытающихся ее объяснить. Один предполагает, что это результат ложных воспоминаний, когда люди неправильно запоминают события или факты из-за дезинформации, неверного толкования или силы внушения. Впрочем. Можете воспринимать это даже как сбой в Матрице)
Простой пример, если многие люди в социальных сетях говорят, что что-то произошло определенным образом, это может заставить нас поверить, что это действительно произошло именно так, даже если это не так.
Это поднимает важные вопросы о том, можем ли мы доверять информации, которую видим в Интернете, можно ли использовать ИИ для манипулирования изображениями и видео, и насколько мощными должны быть технологии для формирования наших воспоминаний и убеждений.
Опасность воспоминаний, полученных из дипфейков
Дипфейки используют ИИ для создания реалистичных видеороликов и изображений людей, говорящих и делающих то, чего они на самом деле никогда не говорили и не делали. Технология основана на глубоком обучении — типе машинного обучения, который предполагает обучение искусственных нейронных сетей на больших объемах данных.
По состоянию на 2019 год в сети было обнаружено менее 15 000 дипфейков. Сегодня это число исчисляется миллионами, а количество дипфейков, созданных экспертами, продолжает увеличиваться на 900% в год , по данным Всемирного экономического форума.
Одним из наиболее тревожных аспектов дипфейков является их потенциальная возможность использования в злонамеренных целях, таких как создание фейковых новостей или пропаганды, а также выдача себя за кого-либо с целью получения финансовой выгоды.
Дипфейки также способны заставить людей поверить, что они видели то, чего на самом деле никогда не происходило, благодаря очень реалистичному характеру технологии. В конечном итоге это может привести к тому, что они будут ошибочно воспринимать ложный сценарий как факт. Вот несколько примеров того, как дипфейки могут способствовать эффекту Манделы и связанным с ними опасностям:
Создание фейковых новостей
Дипфейки можно использовать для создания фейковых новостей, которые настолько реалистичны, что люди верят в их правдивость, даже если они полностью сфабрикованы. Например, ложные новости, такие как террористические атаки или стихийные бедствия, которые были созданы с единственной целью продвижения определенных социально-политических программ. Если эти истории создаются с использованием дипфейков, их можно сделать похожими на настоящие новостные репортажи, дополненные убедительными видео- и аудиоматериалами. В конечном итоге это может создать искаженное представление об истории и событиях для будущих поколений.
Общественное мнение
За несколько месяцев до промежуточных выборов 2018 года вирусным стало фейковое видео, на котором Барак Обама, мягко говоря, ругает тогдашнего президента Дональда Трампа. Он был создан оскароносным режиссером Джорданом Пилом, чтобы стать предупреждением о том, что пользователи доверяют материалам, с которыми они сталкиваются в Интернете.
Если бы подобное дипфейковое видео, на котором политический кандидат или общественный деятель говорил или делал что-то, чего на самом деле никогда не происходило, было бы достаточно убедительным, оно могло бы иметь пагубные последствия.
Например, по мере того, как все больше и больше людей сталкивались с потенциально убедительными фейковыми видео политических кандидатов своей страны в социальных сетях или через различные новостные агентства, ложные воспоминания могли распространяться и приниматься за правду. Это может повлиять на то, за кого люди голосуют на выборах.
Изменение исторических фото
Дипфейки можно использовать для изменения исторических материалов, например, записей политических речей или важных событий, таким образом, чтобы изменить воспоминания людей о том, что на самом деле произошло. Это может привести к путанице и неуверенности в отношении того, что на самом деле произошло в прошлом, подрывая доверие общества к историческим записям и средствам массовой информации, что в конечном итоге подпитывает теории заговора.
Взять, к примеру, высадку на Луну. По сей день некоторые люди утверждают, что это было фальшивкой и на самом деле никогда не происходило. Дипфейки могут быть использованы для изготовления убедительных видео и аудиозаписей, которые подкрепляют это ложное убеждение.
Создание ложного алиби
Кроме того, дипфейки также могут использоваться для создания фальшивых признаний или заявлений в судебных делах или для манипулирования записями камер видеонаблюдения с целью создания алиби для преступников. Это может привести к созданию ложных повествований о событиях преступления, когда люди будут полагать, а) что преступник не совершал преступления или б) что это сделал невиновный человек. Со временем это ложное повествование может укорениться в коллективной памяти участников этого дела, и они поверят, что это факт.
Гипотетически, предположим, есть громкое уголовное дело, в котором команда защиты создает очень реалистичное дипфейковое видео, на котором обвиняемый находится в другом месте во время преступления. Видео широко распространено, и многие люди приходят к выводу, что обвиняемый не мог совершить убийство. Даже если позже будет доказано, что видео является дипфейком, а обвиняемый будет признан виновным, некоторые люди могут продолжать верить в невиновность обвиняемого, поскольку они помнят видео.