Технологии дипфейков вошли в нашу жизнь навсегда. Ящик Пандоры открыт. Законодательство не успевает за развитием технологий. Проблемой становится подрыв доверия к информации. СМИ так устроены, что выигрывает тот, кто расскажет о событии первым. Это не оставляет времени на фактчекинг.
Качество дипфейков с каждым днём растёт. Поэтому советы посчитать - сколько пальцев на руках у людей, изображённых на фотографии, уже не работают. Нейросетевые изображения, и даже видео, скоро станут практически неотличимы от реальных.
Что человечеству с этим делать? Предлагают бороться с ИИ с помощью ИИ. Но это не решит проблему кардинально. Высокое качество дипфейков приведёт к тому, что попытки оценить их достоверность с помощью ИИ, сведётся к статистическим результатам. "Это видео с вероятностью 60% может быть фейком".
Предлагают систему "доверенных средств информации", которые берегут свою репутацию. Но, как известно, "и на старуху бывает проруха". Желание первыми объявить громкую новость может победить осторожность.
Предлагают ввести обязательные невидимые метки в нейросетевые продукты - как в текстовые, так и в изображения. Это может облегчить на какое-то время борьбу с фейками, но всё возрастающее обилие нейросетей (в том числе и локальных) не позволит проконтролировать исполнение этого требования.
Если с мошенниками можно как-то бороться, гораздо хуже дело обстоит с политическими дипфейками. За ними стоят серьёзные люди, с серьёзными целями. Дипфейки - это уже не только мошенничество, но и средство политической борьбы. Манипуляции общественным мнением с помощью дипфейков - искушение для политиков всего мира.
Широкое развитие может получить исторический ревизионизм: создание "документальных" свидетельств несуществовавших событий или искажение реальных событий для переписывания истории.
Мы находимся ещё в самом начале этого процесса. Лавина дипфейков будет только нарастать. А человеку важно развивать у себя критическое отношение к любой информации - будь то звонок от "службы безопасности банка", или шокирующая новость и фотографии в любых СМИ. Увы, не все люди на это способны.
Дипфейки существовали всегда. Когда мы смотрим старую комедию, чтобы отвлечься от невзгод реальной жизни - это ведь тоже своего рода дипфейк, которому мы добровольно отдаёмся. Иногда мы склонны верить им, предпочитая видеть то, что хотим видеть, и не видеть того, чего видеть не хотим.
Всем мира!