Kõigist Interneti hirmutavatest jõududest võib kõige hirmutavam olla võime pahaaimamatuid petta. Clickbait, fotosessiooniga pildid ja valeuudised on ühed halvimad rikkujad, kuid viimastel aastatel on ilmnenud ka uus potentsiaalselt ohtlik tööriist, mida tuntakse sügava võltsimise tehisintellekti (AI) nime all.
Mõiste sügav võlts viitab võltsitud, arvuti loodud videole ja helile, mida on raske eristada ehtsast, muutmata sisust. See on filmida, mida Photoshop piltide jaoks endast kujutab.
Kuidas deepfake AI töötab?
Tööriist tugineb sellele, mida nimetatakse generatiivseteks võistlusvõrgustikeks (GAN) - tehnika, mille leiutas 2014. aastal doktor Ian Goodfellow. üliõpilane, kes töötab nüüd Apple'is, teatas Popular Mechanics.
GAN-i algoritm hõlmab kahte eraldi AI-d, millest üks genereerib sisu - ütleme siis inimeste fotosid - ja vastast, kes püüab Voxi sõnul aimata, kas pildid on tõelised või võltsitud. AI loomine algab peaaegu üldse ettekujutusest, kuidas inimesed välja näevad, mis tähendab, et tema partner saab hõlpsalt eristada tõelisi fotosid valedest. Kuid aja jooksul muutub iga AI tüüp järjest paremaks ja lõpuks genereeriv AI hakkab tootma sisu, mis näeb välja ideaalselt elulaadne.
Deepfake näited
GAN-id on muljetavaldavad tööriistad ja neid ei kasutata alati pahatahtlikel eesmärkidel. Aastal 2018 müüdi GAN-i maal, mis jäljendas Hollandi "Vanameistri" stiili kunstnikke, nagu 17. sajandi Rembrandt van Rijn, Christie oksjonimajas uskumatu 432 500 dollari eest.
Samal aastal tõusid sügavkülmutused laialt tuntud, peamiselt Redditi kasutaja kaudu, kes kandis nime "sügavkülmutused", teatas Vice. GAN-tehnikat kasutati sageli kuulsate kuulsuste - sealhulgas Gal Gadoti, Maisie Williamsi ja Taylor Swifti - nägude paigutamiseks pornograafiliste filmide näitlejannade kehadele.
Teised GAN-id on õppinud tegema inimesest ühe pildi ja looma üsna realistlikke alternatiivseid fotosid või videoid sellest inimesest. Aastal 2019 võiks sügavfake luua jube, kuid realistlikke filme Mona Lisast, kes räägivad, liiguvad ja naeratavad erinevates asendites.
Sügavkülmikud võivad muuta ka helisisu. Nagu The Verge selle aasta alguses teatas, võib selle tehnika abil sõnad kõneleva inimese videosse uued sõnad lõhestada, nähes, et nad ütlesid midagi sellist, mida nad kunagi ei kavatsenud.
Uue tööriista lihtsus on potentsiaalselt hirmutav. Kui keegi saab kõikjal teha realistlikke filme, kus näidatakse kuulsust või poliitikut rääkimas, liikudes ja öeldes sõnu, mida nad kunagi ei öelnud, on vaatajad sunnitud muutuma Interneti sisu suhtes ettevaatlikumaks. Näitena kuulake lihtsalt seda filmi Buzzfeedi videost, mille autor on filmitegija Jordan Peele sügava võltsimise abil loonud president Obama hoiatuse "varjatud" düstoopilise tuleviku eest.
