Сегодня у нас 1 апреля, а значит, самое время чтобы обсудить всякие фальшивки, подлоги, фейки и все остальные гнусные инсинуации. Недавно в сети распространилось видео с якобы слитыми переговорами Пригожина и Ахмедова. В нем Пригожин (или кто-то вместо него) наговорил много нелицеприятного о российской элите. После этого Пригожин поспешно заявил, что это был не его голос, а фейк созданный при помощи нейросети.
И заявление это имеет под собой почву. Действительно, нейросети уже научились подделывать человеческие голоса, причем для этого им нужен всего лишь трехсекундный фрагмент с голосом оригинала.
Та же нейросеть VALL-E от Микрософт подделывает не только голос человека, но даже использует его тембр и экспрессию. И таких сетей уже множество. Другой вопрос, что все они работают только с англоязычными голосами. Поэтому тут Пригожин немного поторопился.
И подделываются не только голоса. Нашумевшая нейросеть Midjourney, генерирующая изображения, уже достигла в своих картинках фотореалистичности. И мы уже видим в ее исполнении вот такие вот фейки:
Или вот Папа Римский, в моднейшем пуховике:
Выглядит вполне реалистично, не так ли? С видео пока похуже. Нейросеть может создавать видео с нуля, но выглядит оно пока как фильм ужасов. Можете посмотреть видео от нейросети как Уилл Смит ест макароны, но делайте это на свой страх и риск.
Расслабляться тут тоже не стоит - создание нейросетями качественного видео, это только вопрос времени. А фотографии? Нейросети могут делать с ними все что угодно - добавлять туда других людей, или наоборот, удалить с фото любого человека.
К чему же ведет вся эта революция нейросетей? Да к тому, что скоро мы будем жить в мире, где НИЧТО не будет являться доказательство. Чьи-то якобы слитые переговоры, фотографии, видеозаписи - все это будет подделываться настолько легко, что в это уже никто не будет верить. Понятие "компромат", перестанет существовать. Мы будем жить в мире абсолютно постправды. При желании, СМИ смогут просто с нуля формировать реальность на наших глазах. Как это было в фильме “Хвост виляет собакой”.
И конечно, никто и никогда больше не поверит ни в какие преступления совершенные военными. Как с эти бороться? Не знаю. В книге “Снафф” Пелевина, значимые вещи снимались на старую кинопленку и крутились со старого же кинопроектора. Чтобы никто не успел засунуть туда какой-то фейк. Может быть будет так. Может по другому. Но мир уже точно не будет прежним.