Frykter bølge av «deepfake»-angrep: – Etterretningsmiljøet er ekstremt bekymret

Amerikanske myndigheter har fått det travelt med å bekjempe manipulerte videoer i forkant av presidentvalget i 2020.

Carnegie Mellon-universitetet har utviklet en metode som automatisk overfører ansiktsuttrykk fra en video til en annen:

Begrepet «deepfake» dukket først opp mot slutten av 2017, da i forbindelse med en trend der kjendisers ansikter ble manipulert inn i pornofilmer.

Teknologien bak er en avansert variant av filterfunksjonene man blant annet finner på Snapchat, som lar deg bytte et ansikt med et annet.

Da NRKbeta testet funksjonen i fjor, var det ikke vanskelig å se at resultatet var manipulert. Ved hjelp av kunstig intelligens kan imidlertid teknologien stadig forbedres, og det har skjedd mye i løpet av det siste året.

I USA har man sett flere eksempler på manipulerte videoer av blant andre Donald Trump og Barack Obama som begynner å nærme seg en kvalitet der det er vanskelig å se at de er falske.

Teknikken kan også brukes til å manipulere lyd. Det finnes allerede flere apper som kan få hvem som helst til å høres ut som en bestemt kjendis.

  • Her er en demonstrasjon fra Buzzfeed:

– Mulig trussel

Det amerikanske forsvarsdepartementet og etaten for avansert forskning (DARPA) har nå hyret inn forskere over hele landet for å utvikle metoder for å avsløre slike videoer.

Ved å fore systemet med store mengder eksempler på ekte og falske videoer, håper forskerne å kunne trene opp datamaskiner til å oppdage hvilke videoer som er manipulert, skriver CNN.

Adam Schiff, som leder etterretningskomiteen i Representantenes hus, har henvendt seg til etterretningsdirektør Dan Coats med en bekymringsmelding om at teknologien snart kan bli tatt i bruk av «ondsinnede, utenlandske aktører».

«Ettersom teknologien blir stadig mer avansert og tilgjengelig, kan den utgjøre en trussel mot den offentlige samtalen og nasjonal sikkerhet,» skriver han.

Deepfake av Barack Obama

Et av programmene som kan brukes til å lage såkalte deepfakes.

Foto: AP

– Kan påvirke valg

Frykten er også at «deepfakes» skal bli neste nivå av «fake news» i forbindelse med presidentvalget i 2020.

CNN viser til de omfattende forsøkene på å påvirke presidentvalget i 2016. Et russisk selskap med forbindelser til Kreml har vist seg å stå bak en rekke falske Facebook- og Twitter-kontoer som publiserte enorme mengder falske nyheter og annonser.

– I 2016 var min største frykt at russerne skulle legge falske dokumenter blant de ekte, eller enda verre, legge inn falske avsnitt i ekte eposter. Dette er fortsatt en betydelig bekymring i forbindelse med 2020-valget, og det samme gjelder bruken av deepfakes. Begge vil utgjøre enda en farlig eskalering av innblandingen i demokratiet vårt, sier Schiff til CNN.

Facebook opplyste i høst at de vil utvide faktasjekkingen sin til å gjelde video og bilder.

Den republikanske senatoren Marco Rubio har også advart mot deepfakes som en del av «den neste bølgen av angrep» mot USA og vestlige demokratier.

Han viser blant annet til et tenkt scenario der en falsk video eller et lydopptak tar av på nett, blir sitert av nyhetsmedier og påvirker velgere før analytikere kan fastslå at det er manipulert.

– Etterretningsmiljøet er ekstremt bekymret for fremveksten av denne teknologien. Vi sliter allerede med å spore og bekjempe andre ondsinnede aktiviteter på sosiale medier, og eksplosjonen av deepfake-videoer vil gjøre det enda vanskeligere, sier demokraten Mark Warner i Senatets etterretningskomité.

Deepfake

Eksempel på en deepfake-video der uttalelser fra Donald Trump og Barack Obama blandes sammen.

Foto: ROB LEVER / AFP

– Ny taktikk

Samarbeidsorganisasjonen Transatlantic Commission on Election Integrity har også satt søkelyset på fremveksten av manipulerte videoer.

Organisasjonen ledes av tidligere Nato-sjef Anders Fogh Rasmussen, og har tidligere visepresident Joe Biden og flere tidligere statsledere som medlemmer.

Alec Baldwin som Donald Trump

Mye tyder på at kunstig intelligens er bedre til å etterligne Donald Trump enn det Alec Baldwin er.

Foto: Will Heath / AP

I samarbeid med firmaet ASI Data Science har de utviklet en quiz der stemmene til kjente Trump-imitatorer blir satt opp mot manipulerte Trump-utsagn som er laget av en algoritme.

Ifølge CNBC viste en test at over 90 prosent av respondentene syntes algoritmeversjonen hørtes mer ut som Trump enn Alec Baldwins berømte etterligning.

– Vi ser deepfakes som neste generasjons desinformasjon, sier USAs tidligere FN-ambassadør Eileen Donahoe til CNBC.

Hun mener myndighetene har vært for dårlig forberedt på valginnblanding, og sier hun frykter en voksende global trend der kvaliteten på offentlig informasjon undergraves.

– Målet er å bryte ned tilliten til demokratiet som styreform, og dette er den nye taktikken, sier hun.

Sendte manipulert Trump-video – fikk sparken

I januar fikk en redaktør i Seattle sparken etter at en manipulert video av Donald Trump ble sendt på lufta.

Den lokale kanalen Q13 Fox skulle sende et klipp fra presidentens tale i Det hvite hus, men det som dukket opp på skjermen var en versjon der Trump fikk rødere hud og forstørret hode, munn og tunge.

Det er ikke kjent hvem som faktisk laget videoen, men personen som var ansvarlig for sendingen ble sagt opp med umiddelbar virkning, skriver Washington Post.

Før jul klarte også det belgiske sosialistpartiet å skape rabalder med en falsk Trump-video.

Klippet, der Trump tilsynelatende henvender seg til det belgiske folket og landets klimapolitikk, var ment som en spøk.

Det var det imidlertid mange som ikke fikk med seg, og partiet måtte ifølge The Guardian rykke ut og forklare at Trump egentlig ikke hadde sagt noe av det.

Laster Twitter-innhold

SISTE NYTT

Siste nytt