Праз два гады пасля нараджэння Глыбокага, як тэхналагічная індустрыя, так і акадэмічная вобласць імкнуцца распрацаваць рашэнні, якія аўтаматызуюць выяўленне фальшывых мультымедыйных матэрыялаў (відэа, малюнкаў і галасавых запісаў) пры дапамозе штучнага інтэлекту.
Прычына гэтых намаганняў простая, як і трывожная: алгарытмы выяўлення глыбокіх фэйкаў працягваюць адставаць ад тэхналогіі, якая выкарыстоўваецца для іх стварэння.
Не ідучы далей, не месяц таму, як Facebook абвясціў, што ўкладзе не менш за 10 мільёнаў долараў у стварэнне набору дадзеных, якія збіраюць глыбокія фэйкі, і ў арганізацыю конкурсу, які будзе садзейнічаць развіццю тэхналогіі выяўлення тое ж самае. Microsoft - яшчэ адзін з гігантаў Сіліконавай даліны, які выступае ў якасці супрацоўніка ў гэтым праекце.
На мінулым тыдні Google таксама абвясціў пра стварэнне базы дадзеных візуальных глыбокіх выклікаў, распрацаваных у супрацоўніцтве з Jigsaw, з запісу сотняў відэаролікаў з удзелам акцёраў.
Усе гэтыя відэазапісы, арыгінальныя і маніпуляваныя, уключаны ў набор дадзеных, які цяпер даступны навукова-даследчай супольнасці. І яны папярэджваюць, што яны будуць уключаць новыя глыбокія выклікі, выкарыстоўваючы новыя метады, якія распрацоўваюцца.
Ніякая тэхналогія не будзе нашай "срэбнай куляй"
Сіві Лю, навуковы супрацоўнік Універсітэта Олбані і адзін з вядучых сусветных экспертаў у галіне выяўлення глыбокіх фэйкаў, заклікаў стварыць яшчэ адзін набор дадзеных відэа, DeepFake Forensic (DFF) з той жа мэтай: уключыць новыя ўзоры рэпрэзентатыўных глыбокіх фэйкаў самыя перадавыя тэхналогіі ў кожны момант.
Лю, які некалькі дзён таму ўдзельнічаў у падкамітэце Палаты прадстаўнікоў ЗША які вывучаў выява і дэзінфармацыю ў Інтэрнэце, потым растлумачыў гэта
"Важна мець эфектыўныя тэхналогіі для выяўлення, стрымлівання і абмінання глыбокага падробкі, перш чым яны могуць нанесці шкоду. Гэта трэба зрабіць, засяродзіўшы ўвагу на ўдасканаленні нашых крыміналістычных магчымасцей і ўскладніўшы навучанне падробленых генератараў з выкарыстаннем інтэрнэт-відэа. [ ..] З-за складанага характару глыбокіх фэйкаў ні адзін канкрэтны метад ці тэхналогія не будуць "срэбнай куляй" ".
Ён імкнецца спалучаць метады судова-медыцынскай экспертызы: шукаць сляды працэсу сінтэзу (дэфармаваныя асобы для адаптацыі да анатоміі мэты) або фізіялагічныя неадпаведнасці (напрыклад, адсутнасць рэалістычнага мігацення), акрамя ставак на "выкарыстанне ІІ для палявання да ІІ », выкарыстоўваючы нейронныя сеткі, каб навучыцца выяўляць характэрныя ўзоры глыбокіх фэйкаў.
Але як Лю прапаноўвае перашкодзіць выкарыстанню малюнкаў і відэа для падрыхтоўкі новых ІС для стварэння глыбокіх фэйкаў? Прадстаўляючы "антаганістычны шум", нябачны чалавечаму воку, але здольны байкатаваць выкарыстанне алгарытмаў выяўлення асобы, прымушаючы падробшчык перадаць тысячу кропак відэа.
Адзін крок наперад і два крокі назад?
Дэса, кампанія штучнага інтэлекту, абнародавала праграмнае забеспячэнне з адкрытым зыходным кодам, арыентаванае на выяўленне аўдыё-глухіх файлаў, інструмент, які быў бы ўдзячны кіраўніцтву, які быў выцеснены некалькі месяцаў таму праз мабільныя званкі.
Рагаван Турайратнам, сузаснавальнік "Дэсы", лічыць, што "непазбежна, каб шкоднасныя акцёры рухаліся значна хутчэй, чым тыя, хто хоча іх спыніць", але ён таксама давярае, што яго бясплатны дэтэктар стане "адпраўной кропкай" для прасоўвання. з глыбокіх фэйкаў.
І тым не менш, гэты рух можа стаць "адным з вапны, а другі з пяску": Сам Тураіратнам прызнае, што генератыўныя сістэмы ІІ могуць навучацца з мэтай падману канкрэтнага дэтэктара, хоць ён упэўнены, што яго патэнцыял дапаможа Стварэнне новых і больш якасных інструментаў выяўлення кампенсуе любое іншае няправільнае выкарыстанне.
Аднак Лю не згодны з гэтым аптымістычным прагнозам: ён лічыць, што ёсць прычыны думаць, што ў канчатковым рахунку будзе вызвалена код гэтага інструмента:
"Спачатку код дапаможа абодвум бакам, але, верагодна, у канчатковым выніку паўплывае на [стварэнне] лепшых генератараў."
З’яўляючыся перад Палатай прадстаўнікоў, ён збянтэжыўся, растлумачыўшы гэты недахоп "добрага":
"Па меры таго, як гэтая тэхналогія працягвае развівацца, цяперашнія бар'еры на шляху стварэння глыбокіх фейкаў будуць памяншацца, а іх якасць будзе працягваць паляпшацца".
"Развіваецца таксама гульня котак і мышэй, якія адчуваюць усе адносіны нападніка і абаронцы, і, здаецца, зламыснікі маюць перавагу: магчымасць наладжвання алгарытму генерацыі кожны раз, калі новы метад рэкламы публікуецца выяўленне ".