Det er ein kombinasjon av menneske og maskiner som overvakar materiale som blir lagt ut på den enorme videoplattforma YouTube.
Ekspertar seier det kan vere vanskeleg for YouTube å oppdage ulovleg og skadeleg innhald raskt nok.
Eit par dagar før skytinga på kjøpesenteret Field's i København, lasta den 22 år gamle gjerningsmannen opp ei rekke videoar på YouTube.
På videoane kunne ein sjå at han poserte med fleire våpen. Videoane blei tekne ned, men YouTube fekk kritikk for at det tok for lang tid å fjerne videoane, skreiv danske DR.
Det skjedde først fleire timar etter skytinga.
Videoane skal ha blitt lasta opp to dagar før, ifølge Jyllands-Posten.
Skjermdump av YouTube-kanalen til personen som skaut og drepte tre personar på eit kjøpesenter i København 3. juli i år. Kanalen vart sletta nokre timar etter angrepet.
Filma terrorangrep direkte
Facebook fekk sterk kritikk etter at Christchurch-angrepet i New Zealand i 2019 vart direktesendt.
Terroristen Brenton Tarrant filma masseskytinga i moskeen. Gjerningsmannen sende direkte gjennom Facebook sin live-funksjon.
Politiet tok grep saman med Facebook i etterkant av angrepet. Ved hjelp av kunstig intelligens ville dei forsøke å fange opp terrorinnhald som blir sendt direkte, skreiv Sky News.
Også 22. juli-terroristen hadde planar om å legge ut video på YouTube. Under rettssaka i 2012 fortalde han at planen hans var å drepe tidlegare statsminister, Gro Harlem Brundtland ved halshogging.
– Eg skulle filme det med ein iPhone og legge filmen ut på nett. Men eg rakk ikkje å få kjøpt meg ein iPhone, sa han.
Philip Manshaus forsøkte å filme direkte då han gjekk til angrep på ein moské i Bærum i 2019, men fekk tekniske problem.
– Det er ingen tvil om at det har ein smitteeffekt, seier professor i kunstig intelligens ved NTNU, Anders Kofod-Petersen.
– Tekgigantar må ta ansvar
– Tekgigantar som YouTube og Facebook må ta sitt ansvar for å førebygge, oppdage og raskt fjerne skadeleg innhald for barn og unge. Like viktig er det at myndigheitene er aktive i si rolle og held tekgigantane ansvarlege for å beskytte barna.
Det seier Monica Sydgård, leiar av Redd Barna sitt Norgesprogram. Organisasjonen jobbar mellom anna med å lære barn nettvett.
– Viss barn har sett noko skremmande eller valdeleg innhald på nett, er det viktig at foreldra gir barnet moglegheit til å spørje og snakke om det, seier Sydgård.
Monica Sydgård i Redd Barna oppfordrar tekgigantane til å ta meir ansvar.
Foto: Redd BarnaYouTube: – Fjernar så raskt vi kan
– Etter det avskyelege angrepet i København, har våre sikkerheitsteam raskt identifisert og fjerna krenkande innhald i samsvar med våre retningslinjer, seier Ciaran Ward hos YouTube.
Kvart minutt blir det lasta opp 500 timar med video på YouTube. Det er eit enormt stort materiale å gå gjennom. I første kvartal i 2022 fjerna YouTube meir enn 3,8 millionar videoar og over 4,4 millionar kanalar for brot på retningslinjene.
– Viss ein skal fjerne til dømes våpenvideoar, er ein nøydd til å gå gjennom alle desse timane med video. Det er ikkje særleg praktisk viss menneske skal gjere det. Derfor kan vi bruke moderne kunstig intelligens, seier Kofod-Petersen ved NTNU.
YouTube brukar ein kombinasjon av menneske og maskinlæring for å oppdage potensielt problematisk innhald i stor skala.
– Vi fjernar innhald som bryt med våre retningslinjer så raskt vi kan, fastslår Ward.
Kan tru at våpenet er ein klarinett
Men det er to problem, ifølge Kofod-Petersen: Det er kostbart. Og dersom systemet ikkje er trent opp til å kjenne att til dømes våpen, er det ikkje så presist som ein skulle ynskje.
Det kan rett og slett ta feil av kva som er eit musikkinstrument, og kva som er eit våpen.
– Video er mykje meir komplisert enn tekst. Viss ein ikkje har nok film eller bilete av våpen, men f.eks. musikkinstrument, kan systemet tru at våpenet er ein tuba eller ein klarinett. Det gjer det vanskeleg.
Anders Kofod-Petersen, professor i kunstig intelligens ved NTNU.
Foto: NTNUVed å bruke maskinlæring kan ein analysere både kva som føregår og kva som blir sagt. Men det kan vere vanskeleg dersom vedkommande ikkje snakkar engelsk i videoen, påpeikar Kofod-Petersen.
Videoar som fremmar eller glorifiserer sjølvmord er i strid med YouTube sine retningslinjer, og blir fjerna. Ward fortel at dei samarbeider med myndigheitene.
– Ansvar er vår høgste prioritet. Gjennom åra har vi investert tungt i retningslinjer og produkt som trengst for å beskytte YouTube-fellesskapet, legg han til.
– Eit stort problem
Journalist Lasse Josephsen, som har spesialisert seg på høgreekstremisme på nett, seier at videoane har ein tendens til å tiltrekke seg nysgjerrige.
– Det blir fort noko å kikke på for kuriositeten sin skuld. Ein litt morbid kikkartrang folk har.
Han synest gjerningsmannen i København stod fram som grotesk og ustabil i videoane.
Lasse Josephsen har spesialisert seg på høgreekstremisme på nett. Han seier det er eit stort problem at videoane spreier seg så raskt.
Foto: Arnfinn Pettersen– Det kan hende det har ein smitteeffekt, seier han.
Josephsen påpeikar at dette er eit problem for pårørande, som er livredde for at videoar skal dukke opp i innboksen deira.
– Med ein gang videoane er ute, så blir dei spreidde veldig raskt. Det er eit stort problem. Det er eit problem der vi ikkje har noko god idé om kva vi skal gjere.
