– Robotene kan bli mer moralske enn oss

Per i dag har ikke kunstig intelligente systemer en egen moral, forteller professor i filosofi ved Universitetet i Agder, Einar Duenger Bøhn. Roboten «Sophia» har derfor ingen egen moral eller følelser. Hun er ikke selvbevisst. Hvert smil, hver latter og hvert blunk er programmert for at det skal se ut som hun føler. At hun er mest mulig menneskelig.

Men forskningen vil gå videre fra dette. Det er ikke godt nok å bare få det til å se ut som de har moral eller følelser. Bøhn møter NRK i biblioteket på universitetet. Han mener det er viktig å gi de kunstig intelligente systemene en egen kunstig moral og en etisk sans.

– Når vi i større grad gir over kontrollen til systemer, vil vi jo ikke at de skal være amoralske. Vi vil at de skal ta de rette valgene, sier han.

Sammen med forskere ved CAIR jobber han for å gi kunstig intelligens et moralsk kompass. CAIR er et institutt for forskning på kunstig intelligens ved Unversitetet i Agder. Bøhn sier forskningen på kunstig moral ikke er kommet lengre enn kunstig intelligens hadde på 1950-tallet. De vet enda ikke om det er mulig å gi dem det.

– Men hvis du presser meg vil jeg si at ja, det er mulig, sier han.

Det andre spørsmålet er om man kan få systemene til å ta moralske valg selv – i stedet for å være programmert til å svare riktig. Kunstig intelligens i dag blir foret med informasjon og trenes opp til å forstå – Bøhn spør seg selv om det er mulig å gjøre det samme med moral. Kanskje kan de til og med ta bedre moralske valg enn oss?

– Det hadde vært stas, sier Bøhn.

Hvem sin moral?

Amy Webb er futurist og forfatter. Med lang fartstid som professor ved New York University Stern School of Business har hun utviklet et eget fag hvor hun spår fremtiden. Blant annet innen teknologi. Den amerikanske kvinnen mener vi må våge å stille spørsmål nå – så vi ikke angrer senere.

På telefon fra USA forteller hun at det neste skrittet innen kunstig intelligens ikke nødvendigvis er roboter som ligner oss, går rundt og snakker. Men en stor overgang hvor mange av de tingene vi gjør hver dag i stedet blir gjort av smarte maskiner.

Webb forteller at vi er omringet av det hun referer til som smale, kunstig intelligente systemer som kan gjøre små og enkelte oppgaver raskere og bedre enn oss.

– For eksempel er det i mange banker systemer som hindrer svindel, og det er kunstig intelligens, sier hun.

Webb sier vi er inne i en tid hvor vi snart vil få maskiner med generell kunstig intelligens. De kan gjøre større og vanskeligere oppgaver, som for eksempel å ta over enkelte jobber.

Hun er enig med filosof Einar Duenger Bøhn. At vi før eller siden vil få kunstig intelligens med moral, mener hun er helt nødvendig. Webb sier derimot vi må sette spørsmålstegn ved hvem sin moral systemene får. De vil jo få verdiene og moralen til professorene som lager dem, og det reflekterer ikke alle, forteller hun. Maskinene vil bli like individuelle som oss mennesker – men med helt grunnleggende verdier som for eksempel at man ikke skal stjele eller drepe.

De kunstig intelligente systemene har allerede begynt å lære av hverandre, sier Webb. De lærer av informasjon. Når de nå blir selvlærende, er det helt avgjørende at det finnes et grunnlag verdier vi er komfortable med, sier hun.

– Teknisk sett kan forskningen fortsette uten å gi systemene moral. Problemet er at om vi venter, kan vi se tilbake og tenke at menneskeheten gjorde en stor feil.

At vi går en fremtid i møte med roboter som har tatt alle jobbene våre eller vil skade mennesker, har Webb ingen tro på. Mennesker er veldig flinke til å kjenne igjen mønstre og vi responderer til historier, sier hun.

– Vi har mye malplassert optimisme og frykt om fremtiden med kunstig intelligens. Ideen om at roboter vil ta over alle jobbene våre og drepe oss alle, er ting vi har sett på film og lest i bøker.

– Vi gir over kontroll

Tilbake hos Bøhn på biblioteket har han tatt plass i en stol. Han leser en skjønnlitterær bok om en fremtid hvor kunstig intelligens har tatt over. Et scenario som er lite sannsynlig i fremtiden, ifølge Webb. Men at de får mer kontroll er det vel ingen tvil om, mener Bøhn.

Han tror vi overvurderer effekten av kunstig intelligens på kort sikt, men undervurderer det på lang sikt. Vi mister mer og mer kontrollen til teknologi, sier han. Men at kunstige intelligente systemer har tatt over verden i nær fremtid, har heller ikke han noen tro på.

– Vi kan ikke slå av internett i dag, det er ingen som kan trykke på en av-knapp på internett fordi det er så spredt. Så vi har allerede gitt over kontrollen til teknologien, og spesielt til kunstig intelligente systemer.

Og hvis systemene får moral, kan de ende opp med å få en moral vi ikke er enige i til slutt, sier Bøhn.

De kan rett og slett bli for moralske for oss, fordi mennesker ikke egentlig er så veldig moralske, mener professoren.

– Så det kan hende at ved å implementere moral så tar de over likevel, sier Bøhn.

– Også blir det fred?

– Ja, også blir det fred. Men kanskje det ikke innebærer til vår fordel, kanskje vi må elimineres først. Jeg vet ikke, sier han og ler.