Mer enn 10.000 ansatte skal fjerne uønsket nett-innhold

– Jeg har sett på nært hold at det kan være en problematisk side ved åpenheten på Youtube. Jeg har sett hvordan noen aktører har utnyttet plattformen til å villede, manipulere, plage eller skade, skrev administrerende direktør i Youtube, Susan Wojcicki mandag i et blogginnlegg.

YouTube-eier Google vil utvide antall ansatte moderatorer i selskapet til mer en 10.000. Selskapet sier at årsaken er at de vil beskytte barn mot farlig og krenkende innhold, blokkere hatefulle ytringer, samt å fortsette arbeidet med å fjerne innhold som inneholder voldelig ekstremisme.

Helt avhengige av mennesker

Magnus Brøyn, byråleder i Coxit PR, mener at det aldri vil være nok folk til å passe på at alt innhold på Youtube holder seg innenfor deres retningslinjer.

Den siste tiden har Google jobbet med å utvikle avansert maskinlæringsteknologi til automatisk å flagge problematisk innhold for fjerning.

• Les også: Mener Youtubes mekanismer mot barneovergrep svikter
• Les også: Youtube-trend med hatvideoer gir klikk og drama
• Les også: Her er barnefiguren omgjort til en kannibal

I blogginnlegget fra YouTube-sjefen skriver Wojcicki at de avanserte maskinene siden juni i år har fjernet 150.000 videoer som inneholder voldelig ekstremisme. Totalt er det oppdaget mer enn to millioner videoer med innhold av denne typen.

– Mennesker er i dag nødvendige for å forstå kulturell kontekst og nyanser i språket, sier han.

Brøyn mener at teknologiselskapene står ved et veiskille, der man går fra en menneskestyrt redigering av innhold, til en teknologistyrt redigering, og at vi i denne perioden må ta i bruk både mennesker og teknologi for å lykkes.

– Facebook har allerede forstått at man må bruke mennesker, og nå kommer Google etter. Vi kommer til å trenge mennesker i mange år til, sier han.

Byrålederen mener at å mestre utfordringen med uønsket innhold, er en nøkkel for om selskapene lykkes i framtiden.

Brøyn: – Kunstig intelligens ikke bra nok

I dag bruker Google, som eier Youtube, kunstig intelligens som kan gjenkjenne innholdet på bilder og i videoer. Brøyn mener at Google er de beste på dette feltet, men at de likevel må ha mennesker for å forstå nyansene i innholdet.

– Til tross for at teknologien er veldig imponerende, er den ikke god nok. De må derfor ansette mennesker som kan gjøre skjønnsmessige vurderinger, sier Brøyn.

Han sier teknologiselskaper som Facebook og Google det siste året har innsett at de ikke er bare er teknologiselskaper, men at de også er medieselskaper.

– Innhold blir viktigere og viktigere, både det de selv produserer, men også det de distribuerer. Det blir derfor en kamp om troverdighet og å ha regi og kontroll på innholdet. Det blir utrolig viktig for selskapene at foreldre opplever applikasjonene som trygge. Hvis foreldrene blir usikre på det, vil de gå over til andre kanaler for innhold, sier Brøyn.