Hopp til innhold

Norske profiler misbrukes i videoer: – Veldig ubehagelig

Svindlere bruker nå kunstig intelligens for å lage falske videoer av norske profiler. – Det er et helt nytt nivå.

Dette er et skjermbilde fra et falsk Dagsrevyen-innslag hvor kriminelle har brukt kunstig intelligens for å lure seerne til å tro at Dagsrevyen forteller om en casino-app.
Foto: Skjermbilde fra svindelvideo.

«En av de rikeste youtube-bloggerne, Mr. Beast, åpnet nylig sitt nettkasino», forteller nyhetsanker Ingerid Stenvold fra Dagsrevyens studio. Videre får vi høre om hvor fantastisk mye penger du kan vinne om du bare laster ned en bestemt kasino-app.

De siste årene har en rekke kjendiser blitt unyttet i ulike svindler, men her har kriminelle benyttet et KI-verktøy for å lage et falskt nyhetsinnslag fra Dagsrevyen.

Men svindelvideoen kunne vært laget bedre, programlederne snakker nemlig dansk.

– I denne videoen går det heldigvis fort å skjønne at bare er tull, forteller Ingerid Stenvold, som er en av programlederne som figurerer i svindelforsøket som nå sirkulerer på Facebook.

Her har svindlere forfalsket en Dagsrevyen-sending for å lure folk til å laste ned en casino-app.

Her har svindlere forfalsket en Dagsrevyen-sending for å lure folk til å laste ned en kasino-app.

– Men de har jo her gjenskapt stemmen min, og det er veldig ubehagelig å høre seg selv si noe jeg aldri har sagt, selv om det er på dansk. Og det er bekymringsfullt å se at dette er noe amatører kan gjøre, selv nå som vi er i en tidlig fase av teknologien. Det er svindel 2.0, et helt nytt nivå.

Ingerid Stenvold

Her er et ekte bilde av programleder Ingerid Stenvold, som gjennomfører et ekte intervju.

Foto: Simon Skjelvik Brandseth

Økende trend

Økokrim kom nylig med en rapport om nettsvindel, og skriver følgende:

– I tillegg til at denne typen verktøy vil gjøre bedrageri mer troverdige, forventer vi en betydelig økning i antall bedrageriforsøk.

Les mer: Her er en mer profesjonelt lagd deepfake-video. KI-stunt i Debatten – klarer du se forskjell?

To personer står ved siden av hverandre i Debatten-studioet. Begge ser ut som Fredrik Solvang - de har begge på seg dress og står med hendene foldet foran magen. Personen til venstre er litt høyere - ellers ligner de.

De har allerede registrert at veksten av digitale bedragerier forsterkes:

Både politiet og bankene registrerer en voldsom økning i antall bedrageri, og omfanget er nå så stort at det er et samfunnsproblem, slår Økokrim-sjef Pål K. Lønseth fast i rapporten.

I en undersøkelse fra Norsis har mer enn én av fire nordmenn opplevd å bli svindlet på nett.

Falsk svindelvideo med 5080 Nyhetskanalen som forsøker å lure deg til å laste ned en app.

Svindelvideo fra Facebook som utgir seg som å være laget av det satiriske NRK-programmet Mediehuset 5080. Svindlerne visste neppe at dette var et humorprogram.

En annen kjent profil som nå misbrukes i deepfake-videoer er Markus Gaupås Johansen fra det satiriske Mediehuset 5080:

– Det er vittig at jeg som lager tullenyheter har blitt misbrukt til å lage tullenyheter. Men for min del er dette først og fremst en fjær i hatten for meg som skuespiller, sier Johansen.

Falske ansikter og stemmer i videomøte

En rekke kjente personer har blitt misbrukt for å gjøre svindler på nett mer troverdige, men tidligere har det vært brukt stillbilder og villedende tekster.

Her har svindlere brukt kunstig intelligens for å lage et falskt intervju med Haaland, for å promotere et svindel-produkt.

Også misbrukt: Her har svindlere brukt kunstig intelligens for å lage et falskt intervju med Erling Braut Haaland, for å promotere et svindel-produkt.

Til NRK oppgir Norsis at det er et relativt nytt fenomen at KI-teknologi for å bytte ansikter, såkalt deepfaker, brukes til å svindle nordmenn. De oppgir også å ha fått de første henvendelsene om at folk har blitt svindlet av videoer som bruker deepfaker.

Svindlere har også tatt i bruk denne teknologien på mer avanserte måter: Nylig ble en finansmann i Hongkong lurt til å overføre tilsvarende 217 millioner kroner der deepfaker skal ha blitt brukt til å gjøre svindelen mer troverdig.

Framgangsmåten svindlerne brukte der, besto av å sørge for at finansmannen havnet i et uventet videomøte. Der framsto det som om flere av kollegaene hans var til stede, og han ble overtalt til å overføre flere hundre millioner til svindlere.

I etterkant viste det seg at både ansiktene og stemmene til kollegaene i møtet var forfalsket ved hjelp av ny teknologi.

Hvordan unngå å bli lurt?
Ifølge Simen Ramberg, rådgiver i Norsis, er dette noen ting du bør tenke på, for å lettere kunne gjennomskue svindlerne:

  • Vær obs på uventede forespørsler, utrolige tilbud, og tidspress for å manipulere ofrene.
  • Husk at svindlerne ofte spiller de på tillit, frykt, og fristelser for å overtale ofre til å handle impulsivt.
  • Ikke fyll ut personlig informasjon på sider du havner på etter at du har klikket på en lenke i en e-post eller SMS.

Hei, du der!

Hva synes du burde være det neste jeg skriver om? Jeg har skrevet om alt fra overvåkende robotstøvsugere til KI som raserer liv, og leter etter saker om hvordan teknologi påvirker hverdagen vår. Send meg gjerne både tips og tilbakemeldinger!

NRK anbefaler

AKTUELT NÅ