Учёные из Лаборатории обучения при Исследовательском Центре Шампалимо показали удивительный потенциал дипфейков для внедрения ложных воспоминаний в сознание людей. Участникам показывали поддельные ролики с ремейками несуществующих фильмов, заставляя их поверить в то, что они существуют. Самое удивительное, что это срабатывало.
Исследователи показали 436 участникам фрагменты поддельных кинолент, в которых, например, Брэд Питт сыграл главную роль в «Сиянии», а Шарлиз Терон — в «Капитане Марвел». В среднем 49% добровольцев были обмануты этими подделками, а 41% даже заявили, что ремейк «Капитана Марвел» оказался лучше оригинала.
«Однако дипфейки были не более эффективны в искажении воспоминаний, чем простые текстовые описания», — говорят учёные в статье.
На сегодняшний день всё ещё остаются способы защитить себя от дипфейков, вызывающих путаницу между реальностью и вымыслом. В то же время генеративный ИИ со временем будет становиться всё более убедительным, а это означает, что нам нужно сохранять бдительность, прежде чем технология получит шанс переписать прошлое.