Deepfake Technology Enters the Documentary World
En film om forfulgte homoseksuelle og lesbiske tjetjenere bruger digital manipulation til at beskytte deres identiteter uden at miste deres menneskelighed. Trinnet rejser velkendte spørgsmål om nonfiction-film.
Da dokumentaristen David France besluttede at fortælle om de anti-homoseksuelle og lesbiske udrensninger, der havde udløst en bølge af frygt og vold i Tjetjenien, havde han brug for mere end blot et kamera.
Han havde set tv-nyhedsinterviews fra den russiske, overvejende muslimske republik: emnerne var dæmpet i skygger, deres stemmer blev digitalt ændret, men han havde svært ved at forbinde sig med dem. Det var forfærdelige historier, og der er ingen tvivl om, at de var rigtige, sagde Frankrig, en Oscar-nomineret aktivistfilmskaber. Men jeg vidste, at jeg ville fortælle en meget mere dybdegående historie om, hvad noget så grusomt som dette betød for de mennesker, der overlevede det.
Hvordan ville han beskytte identiteten af udsatte homoseksuelle og lesbiske tjetjenere, der flygter fra regionen via et netværk af sikre huse, samtidig med at han bevarede deres følelser, deres følelser og udtryk? Frankrigs provokerende løsning er Velkommen til Tjetjenien, den foruroligende film, der debuterede tirsdag på HBO og involverer omfattende postproduktionsarbejde: Den samler avanceret computerteknologi til at overlejre smidige, fuldstændigt fremstillede ansigter over 23 jagtede individer.
Sløre en pøbelinformant ud? Så sidste århundrede. Sig hej til deepfake. Indtil nu har brugen af det stort set været begrænset til anonyme onlinefortræd af forskellige grader af sværhedsgrad, som f.eks indsætte Nicolas Cages grin ind i film, Cage aldrig har optrådt i. Men politikere er også blevet mål. (The Get Out-instruktør Jordan Peele forsøgte at skabe opmærksomhed med en uhyggelig deepfake af Barack Obama.) Selv Facebook, der ikke er kendt for sin strenge overvågning af indhold, lovede at forbyde deepfakes i januar. Vil en dokumentar, der udtrykkeligt omfavner teknikken, hjælpe noget?
BilledeKredit...HBO
Frankrig, en tidligere Newsweek-klipper, der blev filmskaber (How to Survive a Plague, 2012), bryder sig om udtrykket, et portmanteau af computerstøttet dyb læring og falsk.
Deepfake ændrer, hvad folk siger og gør, sagde Frankrig. Og dette ændrer intet. Det giver mine forsøgspersoner mulighed for at fortælle deres egne historier. Og det genopretter dem deres menneskelighed på en måde, som ikke ville have været mulig under andre omstændigheder.
Alligevel, hvorfor skulle vi stole på en dokumentar, der bruger deepfakes? Frankrig ser det ikke som at åbne en ny dåse orme så meget som den samme gamle. Hvis du siger, at andre måske er mindre flittige eller mindre etiske, tror jeg, det er rigtigt med al dokumentarfilm, sagde han. Det er et spørgsmål om at stole på processen.
At se Frankrigs seneste er at blive konfronteret med de moralske dimensioner af dokumentarfilmskabelse - og måske noget dybere, vedrørende selve identitetens glatte natur. Fra starten står der i en ansvarsfraskrivelse, at visse emner er blevet digitalt forklædt for deres sikkerhed. Så kommer selve ansigterne, lidt bløde, som de var i Martin Scorseses forældede The Irishman. Ryger cigaretter, strategier, ser nervøs ud. Vi kommer for at passe på dem. Effekten er aldrig helt problemfri. Måske burde det ikke være.
Det er en væsentlig del af vores samlede kulturhistorie: Ansigtet som vindue, kernen i vores identitet, det mest karakteristiske træk ved kroppen, sagde Bill Nichols, professor emeritus ved San Francisco State University og en pioner inden for dokumentarstudier. Når du mangler det faktiske ansigt, vil det i de fleste tilfælde fremkalde en følelse af forstyrrelse.
BilledeKredit...HBO
Men Velkommen til Tjetjenien kunne repræsentere introduktionen af en ny slags blød maske, en der skjuler et subjekts identitet, mens den stadig giver mulighed for en kompleks følelsesmæssig tilknytning. Nichols sagde, at han blev vundet af Frankrigs film. Det er en kæmpe virksomhed, men jeg tror, det virker, tilføjede han. Det giver os mulighed for at føle den forfærdelse af: Denne fyr blev tævet og tortureret og elektrocuteret, og jeg ser ham - han er hans 'ansigt' - blotte sin sjæl.
Hvor kommer de nye ansigter egentlig fra? Ryan Laney, Frankrigs visuelle effekt-supervisor og en 30-årig veteran, hvis kreditter inkluderer Harry Potter and the Chamber of Secrets (2002), overbeviste instruktøren om, at en dyb-lærende computerproces var det nemmeste svar, selv på en dokumentars stramme budget. Til Welcome to Chechnya oprettede han en hemmelig redigeringssuite og forblev helt offline, mens han var på jobbet.
Det var en teori, og så virkede det bedre, end vi nogensinde havde forventet, sagde Laney om det omhyggelige årlange visuelle arbejde, som han sammenlignede med børstestrøg, ansigtsproteser og virtuelle kindimplantater. Der var tidspunkter, hvor vi faktisk bakkede op på nogle områder, maskinen klarede sig bedre eller skarpere, og vi var bekymrede for, at vi ikke fortalte publikum, at der foregik noget.
Det er vigtigt, sagde Laney. Han kaldte det en undersløring eller glorie, bevidst tilføjet, så du vil være opmærksom på manipulationen. Hans metode involverede i det væsentlige at filme ikke-relaterede emner i et studie med en array med ni kameraer, der fangede deres ansigter fra alle vinkler. Deres visuelle information blev gift på et dybt læringsniveau med de tjetjenske optagelser.
BilledeKredit...HBO
De ikke-relaterede emner var for det meste queer-aktivister i New York, som jeg fandt på Instagram og andre steder, sagde Frankrig. Jeg spurgte dem, om de ville låne deres ansigter som et menneskeligt skjold for at beskytte identiteten på de mennesker, jeg havde filmet. Og de skrev under som en aktivismeakt.
Denne sammensmeltning af teknikker resulterede i en illusion, der fik høje karakterer fra en Dartmouth-studiegruppe, der forskede i den såkaldte uhyggelige dal, en målestok for empati for ikke-menneskelige ansigter.
På en måde er Welcome to Chechnya en anvendt specialeffekt, der varer en hel film. Indtil det ikke gør det: I et af filmens mere betagende øjeblikke falder effekterne væk, efter at en homoseksuel flygtning, Maksim Lapunov, genvinder sit navn - og sit rigtige ansigt - på et pressemøde. Jeg ville have dig til at mærke, hvad han følte i det øjeblik, sagde Frankrig.
D. Fox Harrell, professor i digitale medier og kunstig intelligens ved Massachusetts Institute of Technology, sagde, at der var et uddannelsespotentiale i syntetiske medier, - det udtryk, han foretrækker at deepfake - forløser det fra blot bedrag. At træne seerne til at se efter selv de åbenlyse tegn ville hjælpe, sagde han. For at have forstanden til at forhandle et politisk medielandskab, hvor en video potentielt kan være en deepfake, eller en legitim video kan kaldes en deepfake, tror jeg, det er tilfælde, folk skal være opmærksomme på, sagde han.
Et kreativt projekt, der er kommet ud af Harrells program, Center for Advanced Virtuality, er en syv minutters video med titlen In Event of Moon Disaster. I den er en berygtet tale fra 1969 skrevet til Richard Nixon - beregnet til kun at blive holdt i kølvandet på et katastrofalt Apollo 11-uheld - fusioneret med den faktiske tv-transmitterede afskedstale fra 1974, hvilket resulterer i en uhyggelig smule alternativ historie. Stykket går live den 20. juli kl moondisaster.org .
Jeg kommer fra en nyhedsbaggrund, så jeg elsker ideen om at lave noget, der virkelig kunne være sket, sagde Francesca Panetta, medinstruktør af videoen. I en tale af Zoom fra London opsummerede hun den hvirvel af følelser - nervøsitet, befrielse, endda mulig oplysning - der blev sat i gang med deepfakes ankomst til dokumentarverdenen.
Panetta huskede at have talt med sin mor, som havde sendt hende dårlig information om Covid-19. Hun ville sige: ’Men den blev sms'et til mig af min veninde.’ Og den samtale, jeg havde med hende, er, hvad jeg vil have, at folk skal have efter at have set min film: Hvor kom den fra?
På en måde sagde hun, at diskussionen er vigtigere end specifikke teknikker om, hvordan man kan spotte deepfakes, fordi teknologien vil blive bedre så hurtigt.
I øjeblikket tilføjede hun, at de fleste deepfakes du kan se med det blotte øje.
Frankrig skjuler ikke hans. Han vil have dig til at se dem. Al teknologi har et dobbelt moralsk formål, hævdede han. Hvad vores film beviser er, at dette kan gøres på den rigtige måde.
