Поле наблюдения

Представим обычную ситуацию. Вы открываете ленту и видите ролик. На нём что-то серьёзное: авария, конфликт, необычное заявление известного человека, взрыв, протест, природное явление. Видео выглядит убедительно. Под ним уже тысячи комментариев. Одни пишут: «Вот доказательство!» Другие: «Это нейросеть». Третьи: «Я сразу понял, что фейк». Что делать человеку, который не является специалистом по цифровой криминалистике? Самое полезное — перестать пытаться вынести решение за первые десять секунд. Не нужно сразу верить...

Кажется очевидным, что главная проблема дипфейков — возможность создать убедительную ложь. Показать человека там, где его не было. Заставить его произнести слова, которых он не говорил. Создать событие, которого вообще не происходило. Но существует менее очевидное последствие. И, возможно, оно опаснее самой подделки. Когда общество знает, что видео и аудио можно генерировать, настоящий материал тоже становится легче отвергнуть. Появляется неудобная запись. Ответ: «Это нейросеть». Появляется фотография...

Если мы всё хуже можем определить подделку только по внешнему виду, возникает логичный вопрос: А можно ли сделать наоборот — не искать признаки фальсификации, а сразу подтверждать происхождение настоящего файла? Именно вокруг этой идеи развивается технология Content Credentials и стандарт C2PA. Проще всего представить его как нечто похожее на цифровой паспорт файла. Допустим, фотограф делает снимок камерой. Вместе с изображением может появиться подтверждаемая информация о его происхождении. Затем фотография попадает в редактор...

В интернете существует целая коллекция советов по распознаванию изображений, созданных искусственным интеллектом. Посмотрите на пальцы. Проверьте зубы. Обратите внимание на глаза. Изучите тени. Посчитайте пуговицы. Посмотрите на текст на вывесках. Когда-то такие советы действительно работали довольно неплохо. Первые генеративные модели часто ошибались в мелких деталях. У человека могло оказаться шесть пальцев, очки соединялись с лицом странной линией, отражение не соответствовало сцене, а текст превращался в бессмысленный набор символов...