– Vi er omringet av roboter som forskjellsbehandler

«Siri er her for å hjelpe» sier den hyggelige datagenererte kvinnelige stemmen på telefonen. Men visste du at det er større sjanse for å få hjelp av Siri hvis du er mann?

Siri på mobilen

Forskning viser at stemmehjelpen Siri fungerer dårligere for kvinner enn for menn.

Foto: Per-Kåre Sandbakk / NRK

En mann og en kvinne stiller begge det samme spørsmålet.

«Siri, kan du søke hva som er vanlig å sykemelde seg for?»

Mannssjåvinistiske roboter 4
Som kvinne får hun opp resultater som:
Mannssjåvinistiske roboter 1
«Er det feil å være sykemeldt når jeg er gravid?» og «Generelt om sykemelding ved psykiske plager»
Mannssjåvinistiske roboter 3
Mens han får opp resultater som «Her er reglene når du er sykemeldt»​​​​​​​ og «Sykepenger og egenmelding»​​​​​​​ blant annet.
Morten Goodwin
De får helt ulike svar selv om de stilte Siri akkurat samme spørsmålet.
Rebekka Olsson Omslandseter
Noe Rebekka Olsson Omslandseter (26) synes er rart.
– Jeg ville gjerne også fått opp regler for sykemeldinger og ikke så stigmatiserende søkeresultater, sier hun.

Mannen som søkte svar hos Siri heter Morten Goodwin og er ekspert på kunstig intelligens.

Gjennom jobben sin har han observert at når roboter i stor grad programmeres av menn, så blir tjenester som bruker roboter også mindre tilpasset kvinner.

Han tror vi aldri hadde akseptert slike kjønnsforskjeller for noen annen teknologi.

– Det er en utfordring at det stort sett bare er én gruppe av befolkningen som programmerer roboter og kunstig intelligens.

Morten Goodwin

Morten Goodwin har skrevet flere bøker om kunstig intelligens, og jobber med det på fulltid ved Universitetet i Agder.

Foto: Ole Alvik

«Mannssjåvinistisk» AI

Kunstig intelligens blir en stadig større del av hverdagen vår.

Gjennom smarttelefonen din. Når du blir anbefalt en sang fra Spotify. Når du tar et Google-søk, eller når du tar kontakt med kundeservice og møter en chatbot for eksempel.

Produkter og tjenester skal tilfredsstille behovene til alle. Da er det viktig at data og forsøkspersoner ikke bare speiler én spesifikk gruppe.

I teorien er nok alle enige i det.

Men i praksis velges data og forsøkspersoner ofte fra samme gruppe når roboter trenes opp, ifølge Goodwin.

– Det er ingenting teknisk i veien for at menn kan trene roboter som også fungerer like godt for kvinner. Men det viser seg at det ofte ikke skjer. Menn lager roboter som fungerer best for menn. Da blir de lett mannssjåvinistiske.

Torgeir Waterhouse IKT Norge

Torgeir Waterhouse er tidligere direktør i IKT-Norge og har i en årrekke jobbet med data og teknologi.

Foto: IKT Norge

Teknologiekspert Torgeir Waterhouse i Otte mener også det må en større bevissthet rundt kunstig intelligens og roboter.

– Min teori er ikke at menn bevisst lager et produkt som kun skal fungere for menn, men at det blir sånn fordi det ikke er nok bevissthet, innsikt og kompetanse i prosessen for å lage et produkt som passer flere.

telefon_i_kulda
Ta størrelsen på mobiltelefoner.
Surfer på nettet med smarttelefonen
De største og gjerne beste smarttelefonene er ofte alt for store for kvinnelige hender.
Face ID
Ta ansiktsgjenkjenning.
Det er stort sett menn som trener opp algoritmer til ansikts- og stemmegjenkjenning.
Da er tendensen at mannlige ansikter og stemmer blir brukt mest, ifølge Goodwin.
Oppgi kode for Face ID
Da må kvinner i verste fall taste inn koden flere ganger fordi ansiktsgjenkjenningen ikke fungerer.
Det er kanskje irriterende, men det er ikke direkte farlig.

Fare for liv og helse?

Men når det er snakk om medisinsk forskning, rekruttering eller testing av sikkerhet i biler.

Kan «mannssjåvinistiske» roboter i verste fall være en fare for liv og helse?

– Den direkte diskrimineringen kan vi gjøre noe med. Men den skjulte som vi ikke merker med algoritmene, er den jeg er bekymret for, sier professoren.

Er vi ikke oppmerksomme nok på dette, kan vi ende opp med at algoritmene i helsesektoren setter diagnoser som er mer nøyaktige for menn enn kvinner. Uten at vi merker noe særlig til det.

Det vil påvirke samfunnet sakte, men sikkert i gal retning, mener Goodwin.

Han får støtte fra forsker ved UiA, Hanne Haaland.

– Vi bruker teknologi hver eneste dag uten å tenke på at den er stort sett utviklet av menn. Det er ikke godt nytt for likestillingen.

Hanne Haaland, forsker ved UiA

Hanne Haaland, forsker ved senter for global utvikling og planlegging ved UiA tror flere kvinner innen teknologi kan hjelpe mot «mannssjåvinistiske» roboter.

Foto: Privat

Hun mener alle bør være mer bevisst på robotene som forskjellsbehandler.

– Teknologibransjen er mannstung. Skal alle tjenester lages ut fra et mannsperspektiv, så er det klart at det ikke er godt nytt for noen av oss i lengden, sier hun.

Teknologistudenter

Flere kvinner som søker seg til tek-studier vil hjelpe på utviklingen, tror forskerne.

Men ennå er det slik at det er flest menn som søker seg til disse fagene, viser tall fra Samordna opptak (excel-dokument).

Rebekka Olsson Omslandseter (26) er en av få kvinner som har en master i IKT.

– Jeg følte meg veldig alene på studiet i starten. Men etter hvert trivdes jeg godt. Jeg synes teknologi er utrolig spennende.

Så godt trivdes hun at hun har startet på en doktorgrad i kunstig intelligens. Nå håper hun at flere jenter vil søke seg til teknologifag.

Rebekka Olsson Omslandseter

Den ferske masterstudenten Rebekka Olsson Omslandseter håper flere jenter vil oppdage hvor artig teknologifag er.

Foto: Privat

– Teknologien trenger jenter. Ikke bare fordi vi er jenter, men fordi det trengs flere kløktige hoder. Det er ikke bare forbeholdt gutter.

Hun har også et inntrykk av at roboter både er «mannssjåvinistiske» og til tider rasistiske.

– Kunstig intelligens baserer seg på historiske data og kunnskap som vi har laget. Hvis vi peker fingeren mot roboten, så peker vi den egentlig mot oss selv.