Vi har en tendens til at stole på indholdet af video- og lydoptagelser. Men med kunstig intelligens kan enhvers ansigt eller stemme genskabes med stor nøjagtighed. Produktet er en deepfake, en efterligning, der kan bruges til memes, misinformation eller porno.
Et blik på Nicholas Cage deepfakes eller Jordan Peeles deepfake PSA gør det klart, at vi har at gøre med mærkelig ny teknologi. Selvom disse eksempler er relativt harmløse, rejser de spørgsmål om fremtiden. Kan vi stole på video og lyd? Kan vi holde folk ansvarlige for deres handlinger på skærmen? Er vi klar til deepfakes?
Deepfakes er nye, nemme at lave og vokser hurtigt
Deepfake-teknologien er kun et par år gammel, men den er allerede eksploderet til noget, der både er fængslende og foruroligende. Udtrykket “deepfake”, som blev opfundet på en Reddit-tråd i 2017, bruges til at beskrive genskabelsen af et menneskes udseende eller stemme gennem kunstig intelligens. Overraskende nok kan næsten enhver lave en deepfake med en elendig pc, noget software og et par timers arbejde.
Tro det eller ej, billedet til venstre er deepfake.
Som med enhver ny teknologi er der en vis forvirring omkring deepfakes. “Den berusede Pelosi”-video er et glimrende eksempel på denne forvirring. Deepfakes er konstrueret af AI, og de er lavet til at efterligne mennesker. “Dunk Pelosi”-videoen, der er blevet omtalt som en deepfake, er faktisk bare en video af Nancy Pelosi, der er blevet bremset og tonehøjde-korrigeret for at tilføje en sløret taleeffekt.
Det er også det, der gør deepfakery anderledes end for eksempel CGI’en Carrie Fisher i Star Wars: Rogue One. Mens Disney brugte masser af penge på at studere Carrie Fishers ansigt og genskabe det i hånden, kan en nørd med noget deepfake-software udføre det samme arbejde gratis på en enkelt dag. AI gør jobbet utroligt enkelt, billigt og overbevisende.
Sådan laver du en Deepfake
Ligesom en elev i et klasseværelse skal AI “lære”, hvordan man udfører sin tilsigtede opgave. Det gør det gennem en proces med brute-force forsøg og fejl, normalt omtalt som machine learning eller deep learning. En AI, der er designet til at fuldføre det første niveau af Super Mario Bros, for eksempel, vil spille spillet igen og igen, indtil det finder ud af den bedste måde at vinde på. Personen, der designer AI’en, skal levere nogle data for at få tingene i gang, sammen med et par “regler”, når tingene går galt undervejs. Bortset fra det gør AI alt arbejdet.
Det samme gælder for deepfake ansigtsrekreation. Men at genskabe ansigter er selvfølgelig ikke det samme som at slå et videospil. Hvis vi skulle lave en deepfake af Nicholas Cage, der var vært for Wendy Williams-showet, er her, hvad vi har brug for:
En destinationsvideo: Lige nu fungerer deepfakes bedst med klare, rene destinationsvideoer. Derfor er nogle af de mest overbevisende deepfakes af politikere; de har en tendens til at stå stille på et podium under konstant belysning. Så vi mangler bare en video af Wendy, der sidder stille og taler.
To datasæt: For at mund- og hovedbevægelser skal se nøjagtige ud, har vi brug for et datasæt med Wendy Williams ansigt og et datasæt af Nicholas Cages ansigt. Hvis Wendy ser til højre, har vi brug for et billede af Nicholas Cage, der kigger til højre. Hvis Wendy åbner munden, skal vi have et billede af Cage, der åbner sin mund.
Derefter lader vi AI’en gøre sit arbejde. Den forsøger at skabe deepfake igen og igen, og lærer af sine fejl undervejs. Simpelt, ikke? Nå, en video af Cages ansigt på Wendy Williams