Apple vil søke etter overgrepsbilder fra telefonene våre

Apple vil plukke opp og anmelde overgrepsmateriale av barn. Det skal de gjøre ved å skanne gjennom bilder og videoer fra mobiltelefoner før materialet lastes opp på den digitale skyen iCloud.

– Vi vil hjelpe og beskytte barn fra overgripere som bruker kommunikasjonsverktøy for å utnytte dem, og begrense spredningen av overgrepsmateriale for seksuelt misbruk, skriver selskapet i en kunngjøring.

Foreløpig vil det bare gjelde amerikanske brukere, men Apple håper de får utvidet systemet til resten av verden.

Sender informasjonen til politiet

Alle bilder og videoer som lastes opp til iCloud vil bli sammenlignet med verdens største database av overgrepsmateriale mot barn. Databasen blir styrt av USAs justisdepartement og National Center for Missing and Exploited Children (NCMEC), og inneholder overgrepsmateriale fra hele verden.

Hvert bilde i databasen har en egen «hashverdi» – en numerisk kode. Det er denne koden som vil bli sammenlignet med bildene lastet opp på privattelefoner.

Finner systemet en match, skal bildet eller videoen så undersøkes av en ansatt i Apple. Og er det overgrepsmateriale, gir Apple informasjonen videre til politiet.

Bekymret for personvernet

Nyheten har fått flere til å stille spørsmål ved om dette betyr mer overvåkning av vanlige folk. Sjefen for WhatsApp, Will Cathcart, kaller det et steg tilbake for personvernet for folk i hele verden.

– Vi har hatt egne PC-er i flere tiår og det har aldri vært regler om å skanne privat innhold på data eller telefon for ulovlig innhold. Det er ikke slik teknologi laget i frie land fungerer, skriver Cathcart på Twitter.

Han mener Apple heller bør fokusere på å gjøre det lettere å rapportere overgrepsmateriale.

– Folk har spurt om vi kommer til å gjøre det samme for WhatsApp. Svaret er nei, skriver han videre.

– Kan føre til masseovervåking

Også Datatilsynet deler denne bekymringen, og kaller teknologien «dypt problematisk».

– Det kan lett bli en «slippery slope» når teknologien nå finnes. Hvis det fungerer bra til å fange opp overgrepsmateriale, er veien kort til at man på sikt også kan begynne å skanne for annet ulovlig innhold, sier kommunikasjonsdirektør Janne Stang Dahl til NRK.

Da kan teknologien havne i feil hender.

– Tenk for eksempel hva autoritære regimer kan benytte slik teknologi til. Det kan også føre til masseovervåkning av telefoner og PC-er.

Vil se flere slike samarbeid fremover

Apple er ikke det eneste selskapet som har utviklet metoder for å plukke opp overgrep mot barn.

Forrige måned ble en mann i Rogaland dømt i Gulating lagmannsrett, etter at Facebook sine algoritmer oppdaget at han hadde sendt en film som viste seksuelle overgrep mot fire barn i en Messenger-melding til kjæresten sin.

Politioverbetjent ved Nasjonalt cyberkrimsenter i Kripos, Bjørn-Erik Ludvigsen, sier slike samarbeid mellom politi og teknologiselskaper trolig vil bli mer aktuelle fremover.

– Stadig flere private selskaper vurderer hensynet til barna som viktigere enn egne kunders opplevde anonymitet og mulighet til å bruke tjenesten til å begå straffbare handlinger, sier Ludvigsen til NRK.

Kan hindre flere overgrep

Kripos mener det er helt riktig å prioritere sikkerheten til barna som avbildes.

– Når mer og mer av nordmenns tid går med til ulike gjøremål på internett, vil det også være der bevisene befinner seg og muligheten til å finne gjerningsmenn og ofre også er størst, sier Ludvigsen.

Han mener likevel det er en ulempe at hashverdiene bare knyttes til innhold som allerede er kjent på forhånd. Bilder og film som nylig er produsert og ikke distribuert vil ikke bli plukket opp.

Men det kan bli funnet hvis personen også besitter eldre, kjent overgrepsmateriale.

– På den måten vil ikke bare politiet i USA kunne påtale besittelse av kjent overgrepsmateriale, men også finne ofre for ukjent overgrepsmateriale, identifisere ofre og gjerningsmenn, og på den måten hindre ytterligere overgrep. Det er akkurat det som er hovedmålet med alt vi gjør, å hindre at barn blir utsatt for overgrep, sier Ludvigsen.

– Må bli enige om grense

Men har selskaper og sosiale medier lov til å hente inn denne informasjonen?

Det er det store spørsmålet i Brussel akkurat nå, ifølge Luca Tosoni, stipendiat ved Senter for rettsinformatikk ved Universitetet i Oslo (UiO).

– I EU diskuterer de nettopp dette nå. For hvordan skal man regulere slike ting?, sier han til NRK.

Før juli var det forbudt for kommunikasjonstjenester å skanne meldinger for å finne overgrepsmateriale av barn. Men en ny forskrift ga EU tillatelse til å rapportere private meldinger som viser overgrep på barn – men kun på midlertidig basis.

Nå taler flere for å tillate enda mer, opplyser Tosoni.

– På den ene siden trenger vi effektive måter å oppdage og rapportere overgrepsmateriale av barn, som er et stort problem. Men vi må også bli enige om hvor vi skal sette en grense. Ser rettsvesenet at denne metoden for å forebygge kriminalitet på er veldig effektiv, kan det tenkes at de ønsker å bruke teknologien på andre måter, sier han.

Gjennomgås anonymt

NRK har vært i kontakt med Apples avdeling i Norge. De hadde ikke mulighet til å kommentere saken.

Men i en rapport om de nye systemoppdateringene skriver de at skanningen ikke går på bekostning av anonymitet og privat sikkerhet.

– Prosessen er sikker og er designet for å bevare brukernes personvern, står det.