Kan vi akseptere at kunstig intelligens blir svarte bokser levert av noen få IT-giganter?
Google fikk nylig en bot på 23 milliarder kroner av EU. Den store teknologigiganten hadde misbrukt sin markedsposisjon, og EU er redd for at Google skal bli enda mer dominerende. Det har de god grunn til. Vi sitter likevel stille og rolig og aksepterer at Google sammen med noen få andre selskaper tar kontroll over fremtidens kanskje viktigste teknologi, kunstig intelligens.
Ifølge spådommene vil kunstig intelligens snart bli hjørnestensteknologien i alt fra helse, til finans og offentlig forvaltning. Å si nei til kunstig intelligens, vil være det samme som å si nei til teknologisk fremskritt, og det bør vi selvsagt ikke. Men når en såpass lovende teknologi i praksis er forbeholdt noen få firmaer, burde alle varsellamper blinke.
Overherredømme
For å tilby gode kunstig intelligens-tjenester trengs store mengder data og innovative dataprogrammer som lærer seg trender og mønstre av dataene, såkalte algoritmer. Mange jobber med dette, men det er kun noen få som klarer å dra nytte av kunstig intelligens kommersielt.
Det er amerikanske IT-giganter som har den virkelig gode kunstige intelligensen. Og de tjener penger på å bruke den, og slik ser det ut til å være en god stund fremover.
Google, Facebook og de andre gigantene klarer å utnytte kunstig intelligens fordi de sitter på tre gullgruver som til sammen gir dem nærmest overherredømme: data, regnekraft og algoritmer. Det vil de selvsagt ikke dele.
Både for å trene opp dataalgoritmene, og eksperimentere med disse, trengs regnekraft – mye regnekraft. Det er ikke uten grunn at Facebook er i full gang med å bygge et megadataanlegg i Danmark. Her kan de virkelig både regne på og lagre data, og utnytte potensialet til kunstig intelligens.
Kunstig intelligens er altså ikke magi, det er matematikk ofte på enormt store datamengder og det er slik at de som har regnekraften får et ekstremt konkurransefortrinn.
Svart boks
Vi risikerer dermed at kunstig intelligens-algoritmene, som trolig blir en fundamental teknologi i mange bransjer, blir en svart boks som bare Google og Facebook kan levere. Vi risikerer at kunstig intelligens blir en svart boks vi ikke får innsyn i, men som vi blir tvunget til å stole på.
Dette er virkelig skummelt nå som alt tyder på at kunstig intelligens er på inntog over alt i samfunnet.
Jeg stoler allerede blindt på kunstig intelligens fra svarte bokser i dag. Jeg stoler på at Siri på min Iphone ringer riktig person når jeg ber henne ringe min kone, og jeg stoler på at Netflix foreslår en god TV-serie når min kone og jeg skal bingewatche etter at ungene har lagt seg.
Begge teknologiene er kunstig intelligens, og begge teknologiene er svarte bokser fordi jeg ikke får innsyn i hva som skjer bak. Som oftest klarer kunstig intelligens-algoritmen til Netflix å forutsi hvilke TV-serier vi kommer til å like, men når den gjør feil, og det gjør den noen ganger, er verst tenkelige utfall at vi kanskje starter å se på enda en dårlig reboot fra 90-tallet. Jeg forstår ennå ikke hvorfor Netflix sin kunstige intelligens mente vi kom til å like «Fuller House». Der tok algoritmen virkelig feil.
Feil kan bli fatale
Snart vil jeg oppsøke en kunstig intelligens istedenfor en allmennlege for å be om en medisinsk konsultasjon, og jeg vil antagelig be en kunstig intelligens forvalte sparepengene mine. Vi kommer alle til å stole på den kunstige intelligensen her, på samme måte som vi stoler på Netflix sine forslag i dag, og det vil i det store og hele fungere bra. Men kunstig intelligens er ikke magi og den kommer til å gjøre feil. Da kan konsekvensene bli fatale.
Å stole blindt på Google sin kunstige intelligens kan sammenlignes med å stole blindt på at restaurantbransjen leverer trygg mat selv uten et mattilsyn, eller å stole blindt på at bilindustrien (les Volkswagen) ikke tuller med utslippstallene.
Som oftest går det bra, men ikke alltid. Vi kommer plutselig til å våkne opp en dag, og måtte stole på en kunstig intelligens som vi ikke har kontroll over.
Det er ikke så farlig å stole på Netflix eller Apple sin Siri, fordi konsekvensene av feil er marginale. Når kunstig intelligens kommer på legekontoret, i den offentlige forvaltningen, hos forsikringsselskapene, i screening av jobbsøkere, i bilene våre, på regnskapskontoret, i nyhetsformidlingen, og mange andre sentrale steder i samfunnet, blir konsekvensene av feil langt større.
Løsningen er å tvinge Google og Facebook og de andre til å åpne opp, og gi oss forskere innsyn, i hvert fall hvis teknologien skal brukes av det offentlige.
Alternativet er å akseptere at kunstig intelligens er svarte bokser levert av noen få IT-giganter. Da kan vi like gjerne outsource sentrale deler av Norge til Google og Facebook.
Følg debatten: og
