Visste om smittsomme selvmordsbilder – Instagram gjorde ingenting

I over tre måneder har Instagram latt bilder og video av selvmord og selvskading ligge på sine sider – til tross for at de kjente til dem. Først da NRK igjen stilte spørsmål om et skjult nettverk på plattformen, begynte selskapet å fjerne det skadelige innholdet.

Illustrasjonsbilde av advarslene du får fra Instagram hvis du poster innhold som inneholder selvskading. Det står "Kontoen din kan bli slettet", "Innlegget ditt er i strid med våre retningslinjer". I bakgrunnen er det nettverkstråder med gule varseltrekanter.

Trigger-warning-banner

NRK avslørte nylig et skjult nettverk på Instagram. Hundrevis av norske jenter deler bilder og video av selvskading, selvmordstanker og gjentatte selvmordsforsøk.

Minst 16 unge jenter knyttet til dette miljøet har på få år tatt sitt eget liv.

En av disse var Andrine (17). Hun la ut på bilder og film av alvorlig selvskading og gjentatte selvmordsforsøk på sin skjulte konto. Og til slutt sitt eget selvmord. Tre måneder etter at NRK publiserte de første sakene om det skjulte nettverket og Andrine, lå innholdet fortsatt på plattformen.

Dette skjedde til tross for at Instagram hadde fått vite om brukernavnet på på Andrines konto. Til tross for at innholdet på den var skadelig for andre og i strid med selskapets egne regler.

Fjernet 100 innlegg

For noen dager siden tok NRK kontakt med Instagram og spurte hvorfor kontoen fortsatt var full av skadelig innhold. Da startet ryddejobben umiddelbart. I løpet av bare noen timer fjernet Instagram rundt 100 innlegg med alvorlig selvskading. De fjernet også flere bilder og meldinger Andrine delte med nettverket den siste kvelden hun levde.

Instagram vil ikke svare på hvorfor de ikke har moderert innholdet før nå. Selskapets kommunikasjonssjef i London, Sinead Purcell, skriver i en e-post til NRK:

«Vi svarer ikke på spørsmål om moderering av individuelle kontoer».

Instagram sa, i et tidligere intervju med NRK, at de må få vite om skjulte kontoer i nettverket hvis de skal kunne moderere eller stenge dem. Til tross for at de altså har visst om Andrines hemmelige konto i flere måneder, fjernet de ikke skadelig innhold før NRK tok kontakt igjen.

Journalist Annemarte Moland og Karina Newton er i Instagrams lokaler, og står foran noen skjermer som viser bilder av ulike personer.

Karina Newton, toppsjef for Instagrams retningslinjer, sa til NRK i oktober at hun synes selskapet gjør sitt beste – på en ansvarlig og gjennomtenkt måte.

Foto: Patrick da Silva Saether / NRK

Mammaen til Andrine, Heidi Tårnes, er sjokkert over Instagram. At de ikke har fjernet de mest skadelige bildene på datterens konto.

– Dette skulle de gjort for mange måneder siden. Hvis noen skader seg eller forsøker å ta sitt eget liv, fanger de det ikke opp. Men hvis noen blotter en halv brystvorte er det borte på et blunk. Jeg forstår ikke Instagrams krenkelsesnivå, sier hun.

Heidi Tårnes

Heidi mistet datteren Andrine i selvmord for snart tre år siden.

Foto: Patrick da Silva Sæther / NRK

Tips og støtte

Dersom Instagram oppdager skadelig innhold, for eksempel selvskading eller selvmordstanker, kan de sende meldinger direkte til kontoene. Brukerne får blant annet telefonnumre til forskjellige hjelpelinjer, men også råd om hvordan de selv kan få det bedre.

Fra Instagram om å få tips og støtte hvis du sliter: "Ta en tur utendørs", "Vær kreativ", "Ro ned følelsene dine", "bare slapp av".

Slik oppfordrer Instagram brukere som sliter psykisk til å finne roen.

NRKs avsløring om det skjulte nettverket avdekket at minst 500 norske jenter er en del av miljøet. Instagram vil ikke svare på hvor mange av de andre kontoene de nå har moderert eller hvor mange av jentene som har fått tilbud om hjelp.

Fjernet ikke selvmordsmetode

Modereringen til tross. Instagram har ikke fjernet alt på Andrines konto.

Svært brutale bilder av hvordan 17-åringen tok sitt eget liv ligger fortsatt ute. Instagram svarer heller ikke på spørsmål om hvorfor ikke selvmordsmetoden er fjernet.

Instagram-post fra Andrine der men ser et kott, en stor del av bildet er sladdet.

Til slutt stengte selskapet hele kontoen til Andrine for nye følgere.

Brutte løfter

I et intervju med BBC i februar i fjor sa toppsjefen i Instagram, Adam Mosseri, at skadelig innhold skal bli vanskeligere å finne. Han lovte blant annet at det ikke skal bli anbefalt videre til andre brukere på Instagram. Mosseri sa han ville vurdere sin egen stilling i selskapet hvis dette ikke kom på plass.

Ett år har gått, men Mosseri sitter fortsatt godt på toppen av det mektige selskapet.

NRK har gjort nye undersøkelser på innsiden av det skjulte nettverket og kan avdekke at anbefalingene bare fortsetter.

Toppsjef i Instagram Adam Mosseri

Skadelig innhold blir fortsatt anbefalt til andre sårbare, til tross for Instagram-sjef Adam Mosseris tydelige løfter i dette intervjuet med BBC 7. februar 2019.

Foto: BBC

Unge jenter som nylig har delt selvmordstanker eller forsøk på å ta sitt eget liv blir fortsatt anbefalt videre til andre sårbare.

For eksempel: Ei jente går inn og ut av psykiatrisk behandling. Hun deler metoder for selvskading og konkrete planer om å ta sitt eget liv. Hun blir anbefalt videre til andre brukere med liknende mørke profiler samtlige ganger NRK sjekker.

Hyppige anbefalinger

Jentas konto er bare en av en mengde kontoer som Instagram anbefaler hyppig. Av de 100 kontoene som blir anbefalt oftest i det skjulte nettverket NRK har avdekket, er det bare fem som ikke er knyttet til nettverket. Det vil si: Har du en av de lukkede, mørke kontoene i nettverket, sørger Instagram for at du nesten utelukkende får forslag om å følge andre potensielt skadelige kontoer.

Jo mørkere kontoen din er, jo mørkere innhold anbefaler selskapet. Slik sørger Instagram for at nettverket blir opprettholdt og bygges videre.

Instagram sier til NRK at de har økt antall ansatte som jobber med å sikre plattformen til 35000. De understreker at maskinlæring, som skal finne og fjerne skadelig innhold, er under stadig utvikling.

Martin Ruby, som er ansvarlig for retningslinjer i Facebook Norden, skriver til NRK:

«Våre tanker går til dem som rammes av dette. Vi har investert i team og teknologi. Og vi har gjort flere endringer i våre retningslinjer for å trygge plattformen mot skadelig innhold. Vi tester nå ny teknologi i andre deler av verden, som skal kunne finne slikt innhold, og vi ser nå på hvordan vi kan få denne teknologien på plass i Europa.»

Millionbøter

Ifølge britiske medier kan selskaper som Instagram og Facebook risikere enorme bøter i framtida.

I forbindelse med innføringen av nye personvernregler, har britene utviklet en rekke nye regler for å beskytte barn og unge fra skadelig innhold på nett. Ifølge en av reglene, som er utviklet av det britiske Information Commissioner’s Office (IOC), skal plattformene beskytte mot:

«Innhold som åpenbart er skadelig for barns velvære (...), for eksempel pro-selvmord, pro-selvskading, pro-spiseforstyrrelser og innhold som beskriver eller fremmer skadelig oppførsel av barn».

Dette innebærer at selskaper som Instagram kan bli anmeldt dersom de ikke stanser for eksempel teknologi som skyver skadelig innhold mot unge brukere. De nye reglene blir trolig vedtatt av det britiske parlamentet før sommeren.

Reglene legger for første gang et større ansvar over på teknologiselskapene. De har hittil selv styrt om og hvordan de beskytter barn på nett.

Britiske medier skriver at bøtene for skadelig innhold kan bli så høye som 17 millioner pund. Det er mer enn 200 millioner norske kroner.

Utvalg i Norge

I Norge har regjeringen satt ned et utvalg som skal utrede tiltak for å beskytte barn mot skadelig eksponering i elektroniske medier. Utvalget skal legge fram forslagene sine til sommeren.

En ny ytringsfrihetskommisjon skal også blant annet se på elektroniske plattformers rettslige ansvar for ulovlig og skadelig innhold på sosiale nettverk.

– Hvilke konkrete tiltak som kommer ut av dette er for tidlig å si. Men dette er et tema som regjeringen tar på største alvor. Det dreier seg i bunn og grunn om å sikre barn gode oppvekstvilkår, sier statssekretær Knut Aastad Bråten i Kulturdepartementet.

Har du behov for å snakke med noen etter å ha lest denne saken?

  • Kirkens SOS hjelpetelefon: 22 40 00 40
  • Mental helses hjelpetelefon: 116 123
  • Chattetjeneste fra Kirkens SOS: soschat.no
Hvordan påvirker unge med selvmordstanker hverandre på sosiale medier? Vilde utforsker et lukket nettverk av unge som deler fra sin vonde hverdag.

Hvordan påvirker unge med selvmordstanker hverandre på sosiale medier? Vilde utforsker et lukket nettverk av unge som deler fra sin vonde hverdag.