Kunstig intelligens brukt til å generere falske nakenbilder av mindreårige jenter i Spania

Den spanske småbyen Almendralejo sørvest i Spania er i sjokk etter falske nakenbilder av jenter, i alderen 11 til 17 år, har blitt delt og spredd i sosiale medier.

De falske nakenbildene skal ha blitt laget med hjelp av et KI-program. Det ble lastet opp bilder av jentene med klær på. Programmet skal så ha generert nakenbilder av jentene.

– Datteren min gråter hele tiden. Hun har allerede veldig dårlig selvtillit, så dette er forferdelig for henne, sier en av mødrene til TV Español.

30 ofre så langt

– Mamma, det sirkulerer bilder av meg toppløs, gjenforteller María Blanco Rayo til BBC.

Hun er moren til et av ofrene, en 14 år gammel jente. Blanco Rayo forklarer at hun spurte datteren om hun hadde tatt nakenbilder av seg selv.

– Nei, mamma. Dette er falske bilder av jenter, og det er andre jenter i klassen min som dette har skjedd med også, skal 14-åringen ha sagt til moren sin.

Så langt har 30 jenter stått frem som ofre i saken.

Etterforsker bildene

Spansk politi har nå startet en etterforskningen etter bildespredningen.

Minst elleve lokale gutter har blitt bekreftet involvert i genereringen, eller delingen av bildene på WhatsApp og Telegram.

De mistenkte skal være i alderen 12 til 14 år, ifølge BBC.

– De av oss som har barn er veldig bekymret, sier Gema Lorenzo som har en 12 år gammel datter og en 14 år gammel sønn.

Etterforskerne undersøker også et påstått forsøk på å utpresse en av ofrene for penger, ved bruk av et falskt bilde av henne.

Javier Izquierdo leder det spanske politiets enhet for nettkriminalitet mot barn. Han sier til spanske medier at denne typen forbrytelser ikke lenger bare gjelder personer som laster ned barnepornografi fra det mørke nettet.

– De nye utfordringene vi står overfor nå er mindreårige som i en så tidlig alder har tilgang til slik teknologi som er brukt i denne saken, sier Izquierdo.

Lokalsamfunn i sjokk

Foreldrene til de 28 jentene har startet en støttegruppe etter avsløringene. María Blanco Rayo forteller at hennes datter klarer seg greit, men noen av ofrene vil ikke gå ut av huset sitt.

Miriam Al Adib er moren til en av de andre ofrene i saken. Hun er gynekolog, og har brukt sine sosiale medie-plattformer for å sette tematikken i sentrum av den spanske samfunnsdebatten.

– Vi vet ikke hvor mange barn som hadde bildene, eller om de har blitt lastet opp til pornografiske nettsteder – alt dette er noe vi frykter, sier Al Adib i en video hun har publisert.

Almendralejo er en liten by med en befolkning på litt over 30.000 innbyggere. Bildene fra den ellers stille byen har ført til nasjonale overskrifter i Spania.

Al Adib sier i en av videoene at når man blir utsatt for en forbrytelse, så anmelder man det og trenger ikke å gjemme seg for forbryteren.

– Men når det gjelder seksualforbrytelser, føler offeret ofte skam, gjemmer seg og føler seg ansvarlig. Så jeg ville gi det budskapet: Det er ikke din feil, slår hun fast.

Nytt fenomen

Inga Strümke er førsteamanuensis ved NTNU, og har skrevet bok om kunstig intelligens. Hun sier det er veldig enkelt å bruke programmer som lager falske nakenbilder.

– Det er det vi har sett det siste året, at KI-verktøy har blitt veldig tilgjengelig, og man trenger ikke å kunne noen ting for å kunne bruke det. Man trenger bare å åpne en nettleser.

Ifølge henne er det et forholdsvis nytt fenomen, og hun er usikker på om det finnes noen tall på hvor omfattende dette problemet er.

Det er også foreløpig vanskelig å sanksjonere generering og spredning av slike bilder.

– De her KI-genererte bildene kommer til å bli mer og mer realistisk. Vi må ikke gå ut ifra at det her er et problem som kommer til å løse seg selv eller forsvinne, forklarer Strümke.