Киберпреступники стали чаще использовать искусственный интеллект для обмана россиян. С помощью дипфейка злоумышленники маскируются под других людей в переписках через мессенджеры и социальные сети. Однако распознать ненастоящий контент можно невооруженным взглядом. Для этого нужно обращать внимание на детали. Эксперт по кибербезопасности Павел Мясоедов рассказал «360», как можно отличить дипфейк от оригинального видео или фото.
Далее — его прямая речь.
Важное в деталях
Есть такой термин — артефакт. Когда мы его в обывательском языке используем, мы обычно подразумеваем что-то очень ценное. Когда мы его используем в рамках плоскости IT, то мы подразумеваем какие-то надрывы, искажения и проблемы [в контенте]. Это относится и к программному обеспечению (ПО), и в данном случае к графическим изображениям или объектам.
Простым языком: если вы смотрите какое-то видео с дипфейком, пока, к счастью, программное обеспечение не дошло до того уровня, чтобы делать абсолютно натуральную картинку, поэтому возникают какие-то прерывания, надломы голоса. Более того, дипфейки, связанные с голосом, обычно компилируются из имеющихся в ПО звуковых дорожек. Потому голос прерывистый.
В случае с видеоизображением — [заметны] какие-то подергивания. Лучше всего артефакты просматриваются на контурах — они могут быть неидеальными. Например, контуры замыливают, чтобы создать большую натуральность. Но если замылен только контур, особенно если сильно, то это тоже можно распознать.
Также [нужно обратить внимание на] фон. Насколько этот объект относительно фона натурально двигается. Происходит ли там полноценное движение, или есть тени. И вот все эти элементы натуральности нарушаются, поэтому возникают эти пресловутые артефакты. И по артефактам обычно [дипфейк] распознается.
Определить дипфейк поможет ПО
Если человек глазом это распознать не может, для этого существуют программные обеспечения, которые распознают артефакты. После его выявления ПО показывает, что где-то происходит контраст между пикселями или переход между пикселями более резкий, чем он должен быть. И затем программное обеспечение говорит о том, что это искусственно созданное изображение.
Определяющее артефакты ПО создано не только для этого. Поэтому, наверно, обычному человеку найти в интернете его будет сложно. Либо он не сможет им воспользоваться. Поэтому с учетом того, что программа, создающая дипфейки, не очень качественно работает, пока их можно определить на глаз.
Обычно программное обеспечение используется для анализа большого количества дипфейков. То есть когда, например, крупные видеохостинги борются с вредоносным контентом, они используют автоматизированные системы, в том числе системы определения дипфейка.
Поэтому цель ПО на сегодняшний день — не выявить разовый дипфейк, а определять их в масштабе. Пока можно определить на глаз, искусственно создано видео или нет.