NRK har den siste tiden satt søkelys på åpenlyst spredning og salg av overgrepsmateriale på Instagram. 100 slike kontoer ble rapportert til selskapet. Men på en uke ble bare 10 av dem fjernet.
Kontoene fikk i stedet i løpet av kort tid 10 000 nye følgere. De fikk i mange tilfeller ikke bare se, men også kjøpe nakenbilder og svært seksualisert materiale av barn helt ned i 5-årsalderen.
Først nå er flesteparten fjernet. Det skjedde etter at NRK sendte navnene på kontoene direkte på e-post til kommunikasjonsavdelingen til Instagram. Selskapets eget rapporteringssystem, som de selv oppfordrer brukere til å benytte, strakk altså ikke til.
Feil er blitt gjort
Da koronapandemien brøt ut, måtte Instagram sende hjem mange av sine moderatorer. Det fikk alvorlige følgefeil.
På grunn av pandemien og redusert kapasitet til å moderere, har vi måtte lene oss mer på teknologien. Derfor er det blitt gjort feil. Det skriver Instagrams kommunikasjonsenhet i en e-post til NRK.
Selskapet har jobbet for å få flere ansatte trygt tilbake på jobb. Instagram understreker at selv om det har vært færre moderatorer i arbeid en periode, har de prioritert å fjerne bilder og videoer som utnytter barn seksuelt.
Men tall fra selskapet viser at innsatsen ble mer enn halvert fra mars til juni i år. Vanligvis fjerner selskapet en million skadelige bilder og videoer i kvartalet. Da pandemien slo inn ble dette antallet redusert til 481 000, før det kom opp til vanlig nivå igjen i høst.
Kan ikke forklare
Da NRK først rapporterte de 100 kontoene med nettovergrep, kom det raskt en rekke automatiske svar tilbake. Kontoene brøt ikke med Instagrams retningslinjer, stod det. «Instagram er et globalt fellesskap. Vi forstår at folk vil uttrykke seg på forskjellige måter», lød beskjeden.
Etter Instagrams manuelle gjennomgang, der mennesker så på kontoene, ble altså nesten samtlige fjernet. Det viste seg at innholdet på kontoene brøt selskapets retningslinjer likevel.
Instagram vil ikke svare på gjentatte spørsmål om hvorfor kontoene ikke ble fjernet i første omgang.
NRK har blant annet spurt om hvorfor kontoer som er tydelig merket med salg av overgrepsmateriale ikke ble fjernet. Vi har også spurt om mennesker og ikke bare maskiner noen gang gikk gjennom kontoene, uten å få svar.
Selskapet sier i stedet at ansatte nå går gjennom de konkrete kontoene, for å finne ut hva som har skjedd. I en generell uttalelse sier en talsmann for plattformen:
– Vi har klare regler mot nakenhet og seksuell utnyttelse av barn. Vi gjør alt vi kan for å fjerne det fra plattformen. Vi har nå stengt nesten alle kontoene NRK sendte og er takknemlig for at vi ble gjort oppmerksomme på dem.
– Kan ikke skylde på maskiner
De 100 overgrepskontoene NRK rapporterte er bare en flik av et marked som er langt større.
Enkle søk på plattformen avdekker fortsatt store mengder overgrepsmateriale. Mye av det blir aktivt og direkte anbefalt til brukere – av Instagrams automatiserte teknologi.
Professor i medier og kommunikasjon ved Universitetet i Oslo, Petter Bae Brandtzæg, er kritisk til det han kaller åpenbare svakheter ved Instagrams rapporteringssystem. Han stusser over at kontoene med nettovergrep ble fjernet først da de kom direkte på e-post.
– Instagram kan ikke skylde på maskinene sine og si at det er de som har gjort feil. Dette er Instagrams maskiner. Det er altfor lettvint å skyve ansvaret over på dem. Hvis ikke maskinene er gode nok, må selskapet i større grad sette mennesker til å moderere, sier professoren.
Petter Bae Brandtzæg kjøper ikke Instagrams forklaring om at koronaepidemien har redusert mulighetene til å fjerne skadelig innhold.
Foto: Leif Bergundhaugen / NRKBrandtzæg er heller ikke særlig imponert over Instagrams forklaring om svekkede muligheter til å moderere på grunn av pandemien.
– Alle har hjemmekontor nå, understreker han.
– Internettbruken har økt betraktelig. Folk deler mye mer innhold enn før. Faren for misbruk på Instagram har derfor også økt betraktelig. Da er det viktigere enn noensinne å ha gode rutiner. Maskiner har ikke sunn fornuft. De ser ikke ting i kontekst, sier han.
