Kunstig intelligens skapar bekymring for likestilling

For nokre år sidan brukte Amazon kunstig intelligens (KI) til å finna dei beste kandidatane til nye stillingar.

Det resulterte i at berre menn blei sett på som verdige kandidatar, ifølge Reuters.

Algoritmane viste seg å ha blitt trent på nesten berre søknadar frå menn. Dermed blei ingen kvinner rekna som eigna.

Ein ny rapport gjer Barne-, ungdoms- og familiedirektoratet (Bufdir) bekymra for om kunstig intelligens kan få konsekvensar for likestillinga.

Kunstig intelligens som reddar liv

Stadig fleire KI-prosjekt er under utvikling i offentleg sektor i Noreg.

Eitt av dei er prosjektet «AI beslutningsstøtte i medisinske nødanrop» hos Helse Bergen. Målet her er at KI skal gjera det enklare for dei som svarer på medisinske naudanrop, og i beste fall redda liv.

Måten det fungerer på er at den kunstige intelligensen lyttar på samtalen. Han leitar så gjennom pasienten sin medisinske historikk og analyserer det som blir sagt. Deretter vil han kunna fortelja 113-operatøren om det er ekstra stor fare ein gitt tilstand, i første omgang hjerneslag.

Men kva om innringaren ikkje snakkar godt norsk?

– Ei openberr utfordring i prosjektet vårt er at innringarar til 113 snakkar fleire språk og dialekter, fortel prosjektmedarbeidar Emil Iversen.

Prosjektet er tidleg i utviklingsfasen endå. Likevel er dei allereie no svært merksame på faren for diskriminering ved bruk av KI.

Ikkje alle i offentleg sektor er like merksame på det.

Tre prosent av dei 491 spurde offentlege verksemdene, meiner at kunstig intelligens kan auka risiko for diskriminering. Det viser ein ny rapport laga av Rambøll og Vestlandsforsking på oppdrag av Bufdir.

– Det er urovekkande at det er så lite kunnskap om likestilling og diskriminering i kunstig intelligensprosjekt, seier avdelingsdirektør Anna Bjørshol i Bufdir.

– Erfaring frå utlandet viser at det kan gi store negative utslag for enkelte grupper i samfunnet, som i det eksempelet frå Amazon, seier Bjørhol.

Lett å løysa

KI-ekspert Morten Irgens deler bekymringa til Bjørshol.

– Desse systema verkar jo så smarte heilt til me går litt i djupna av dei. Me forvekslar dei med kunnskap medan det eigentleg berre er tekst.

KI-systema er trent opp på masse data frå internett og frå andre kjelder. Dersom denne dataen berre inneheld éin type informasjon, vil ikkje KI-systemet ta omsyn til mangfaldet i samfunnet. Det forklarer Irgens.

– Visst dataen berre har informasjon om eller frå kvite menn i 50-åra, gir ikkje systema nokre gode råd som tar omsyn til mangfaldet i samfunnet. Då kan systema komma med råd som er diskriminerande og nokre gonger fordomsfulle.

Irgens meiner at det er lett å løysa dette problemet om me berre tenker litt annleis om kva KI er.

– Det gjeld å gjera brukarane av desse systema trent i å ikkje tenka på systema som allvitarar, men som ivrige lærlingar som nokre gonger tar heilt feil.