Kunstig intelligens i banken kan føre til auka sosiale skilnader

Hopp til innhold

Saken oppsummert

Elisabeth Austad Asser, forsker ved UiA og bærekraftsansvarlig i Sparebanken Sør, advarer mot ukritisk bruk av kunstig intelligens (KI) i banksektoren, da det kan forsterke sosiale forskjeller.
Asser mener at data ikke er nøytral, og at bruk av KI kan føre til at noen mennesker blir definert som innenfor, mens andre blir definert som utenfor.
Teknologi som algoritmer kan brukes til å lage en profil på deg og bestemme hva du skal se og få tilbud om når du surfer på nettet. Dette kan føre til at området du bor i avgjør om du får innvilget boliglån eller kredittkort.
Asser har laget en liste med 13 anbefalinger til hvordan banker kan tilnærme seg KI på en måte som fremmer bankens verdier, blant annet ved å være bevisst på bruken av KI, forstå lovene og reglene, jobbe med datakvalitet, håndtere skjevheter, og være åpen om KI-beslutninger.
Asser mener at banker har et særskilt samfunnsansvar og at de må være sikre på at data fra fortiden ikke brukes til å predikere en uønsket fremtid.
Finanstilsynet forventer at finansforetakene etablerer systemer som sikrer tilstrekkelig styring og kontroll med bruken av avansert analyse, inkludert KI, og at teknologien bygger på etiske prinsipper, menneskerettigheter og demokrati.

Oppsummeringen er laget av en KI-tjeneste fra OpenAi. Innholdet er kvalitetssikret av NRKs journalister før publisering

– Kunstig intelligens kan definere nokre menneske som innanfor, og andre menneske som utanfor.

Det seier Elisabeth Austad Asser, som nettopp har disputert for doktorgrada si på Universitetet i Agder.

Der har ho sett på korleis bruk av kunstig intelligens kan hemme eller fremje verdiane til Sparebanken Sør, der ho til dagleg er ansvarleg for berekraft.

Ho åtvarar om at dersom bankar tek i bruk teknologien utan å vere klar over at data ikkje er nøytrale, kan dei bidra til å forsterke sosiale skilnader i samfunnet.

– Det som er farleg, er når bankar eller andre verksemder bruker data til å kategorisere deg og avgrense vala dine utan at du veit om det.

Fordomsfull profil

Teknologi som algoritmar lagar ein profil på deg og bestemmer kva ein skal sjå og få tilbod om når ein surfar på nett, forklarer Asser.

Når slike former for teknologi blir brukte i banken, kan det til dømes føre til at området der du bur avgjer om du skal få innvilga bustadlån eller kredittkort.

13 tips for tilnærming til KI:

I doktorgrada si har Asser laga ei liste med 13 tips til korleis bankar kan tilnærme seg kunstig intelligens (KI) på ein måte som fremjar verdiane av banken.

Ver bevisst: Lag ein plan for bruk av kunstig intelligens som stemmer overeins med verdiane og måla til banken. Ver klar på kva ulike teknologiar skal brukast til.
Forstå lover og reglar: Sørg for at dei tilsette til banken har kunnskap om gjeldande lover og reglar om KI.
Jobb med datakvalitet: Sørg for at data er rettferdige, balanserte og av høg kvalitet. Unngå fordommar i data ved å bruke innsikt frå ulike avdelingar i banken. Test KI-system for skeivskapar og jobb for å fikse dei.
Handter skeivskap: Bruk eit mangfaldig team for å utvikle algoritmar. Samarbeid med grupper som ofte er utelatne når du utviklar KI-modellar. Ver open om kva data som blir brukte.
Vel dei rette algoritmane: Bruk algoritmar som er så rettferdige og upartiske som mogleg. Bruk ekspertise for å velje og vurdere algoritmar, særleg for sensitive oppgåver som kredittvurdering.
Utdann organisasjonen om skeivskap: Lær opp heile organisasjonen om skeivskap i datasett og strategiar for å vurdere desse.
Fram intern kunnskap: Inkluder tilsette i utviklinga av KI-modellar og bruk den bankfaglege kunnskapen deira for å redusere skeivskap og forbetre implementeringa av KI.
Styrk opplæringa: Jobb grundig med opplæring i banken når KI-teknologi blir tatt i bruk.
Involver leiinga: Sjå til at både tekniske og ikkje-tekniske leiarar arbeider inkluderande og verdibasert med KI.
Overvak systema: Ver merksam på uønskte effektar etter at KI er tatt i bruk. Ver open for ekstern revisjon av KI-systema.
Forstå ansvaret: Vêr klar på kva ansvar banken har i KI-prosessar, og vurder å bruke omgrepet «maskin i loopen» når det er relevant.
Opprett eit KI-etisk råd: Rådet kan handtere utfordringar og sørge for at banken held seg oppdatert på KI-området.
Ver open om KI-avgjerder: Vêr klar og open om kva avgjerder som er tatte ved hjelp av KI.

Tidlegare blei slike avgjerder tekne av rådgjevarar i banken.

Desse kunne vite at sjølv om du kanskje har naboar som er dårlegare betalarar, så er du som individ annleis.

Foto: Ina Marie Sigurdsen / NRK

Assar meiner bankane har ein viktig funksjon og eit særskilt samfunnsansvar.

– Data er noko som har vore, og skjedd i fortida. Når vi set ein algoritme som bruker data frå fortida for å predikere noko om ei framtid, må vi vere sikre på at det som har vore i fortida er det vi ynskjer i framtida.

Må kjenne risikoen

Anders Hole er konstituert direktør for bank og forsikringstilsyn i Finanstilsynet. Han skriv til NRK at det er viktig at ein dokumenterer korleis KI-system fungerer.

– På det overordna, strategiske nivået er det viktig at leiinga og styret i føretaket har inngåande kjennskap til utfordringar og risiko ved innføring og bruk av slik teknologi.

Finanstilsynet ventar at teknologien som blir utvikla og blir brukt av finansføretak i Noreg bygger på etiske prinsipp, menneskerettar og demokrati.

Gav milliongåve til universitetet

Universitetet i Agder (UiA) og Sparebanken Sør investerte i november i fjor 35 millionar kroner for å utvikle ein meir berekraftig og demokratisk kunstig intelligens.

I 2018 lanserte Ole-Christoffer Granmo ved UiA ein kode for opplæring av kunstig intelligens som er både grønare og meir demokratisk enn eksisterande teknologi.

Ifølge Granmo er dagens KI særs energikrevjande og så kompleks at vi ikkje kan forstå. Det er også vanskeleg å få innsyn i korleis teknologien «tenker» når avgjerder vert tekne.

– Det er eit demokratisk problem. Historiske data gjer at han tar med seg diskriminerande og urettferdig behandling, sa Granmo til NRK i november.