NRK Meny
Kronikk

Din personlige venn, algoritmen

Er en datastyrt, kunstig sel et godt tilbud til pasientene, eller er det uetisk lureri? Kanskje er det bare å akseptere at vi blir lurt av dataprogrammer.

Paro Robotsel

Kontroversiell velferdsteknologi: en robotsel gir ro og trygghet til pasientene, hevder tilhengerne. Uetisk å lure demente og utviklingshemmede, mener kritikerne.

Foto: Aina Indreiten / NRK

For en tid tilbake kunne vi lese på NRKs nettsider om Jon Wiik og hans venn, selen ”Selma”. Wiik er moderat psykisk utviklingshemmet og har bodd på institusjon fra han var 7 år. Selma er en robotsel, styrt av en datamaskin og en algoritme.

Algoritmen, eller programmet, reagerer på berøring, tale og lys. Selma krever oppmerksomhet og viser at den er fornøyd når den får det. Erfaringene med slike seler er gode, de gir klientene ro og trygghet. Drammen kommune har derfor satset tungt på dette.

Vi lar oss alle lure

Nå er ikke alle like fornøyd. Rådet for sykepleieetikk mener at klientene kan bli lurt til å tro at det er en ekte sel. Men hensikten er vel nettopp det, at dyret skal agere som andre dyr, men ikke ha de ulempene som følger med levende dyr på institusjoner.

Vi lar oss alle lure – frivillig. De som lager filmer vil gjerne at vi skal føle at det er virkeligheten vi ser i kinosalen.

For de som spiller dataspill intenst, store deler av døgnet, blir det kanskje den virtuelle verden og algoritmen som representerer det virkelige liv.

Kai A.Olsen

Det er vel derfor publikum hopper i stolen når det skjer noe skremmende på lerretet. For å øke opplevelsen kan en bruke større lerret, 3D og surround lyd. Noen kinoer kan også produsere røyk og lukt for at du skal føle at du er i filmen.

Likevel, kino er kun et kort avbrekk fra virkeligheten. Men for dem som spiller dataspill intenst, store deler av døgnet, blir det kanskje den virtuelle verden og algoritmen som representerer det virkelige liv. Science fiction filmen The Matrix tar dette til et ytterpunkt, her lever menneskene i en simulert virkelighet styrt av datamaskinene.

Den primitive begynnelsen

Nå er det å bli lurt av datamaskiner ikke nytt. Allerede midt på 60-tallet utviklet Joseph Weizenbaum ved MIT en algoritme som kunne håndtere skriftlige samtaler på engelsk. Denne ble eksemplifisert i programmet ELIZA som kunne simulere en psykiatrisk samtale. Skrev klienten ”Menn er like alle sammen” så kunne algoritmen spørre ”På hvilken måte”. ”Jeg trenger hjelp” ville gi svaret ”Hva ville det bety for deg at du fikk hjelp”.

På denne måten kunne det enkle programmet holde en samtale i gang, nesten bare ved å omforme klientens setninger til spørsmål, eller komme med generelle utsagn om det ikke var mulig. Likevel var det fagfolk som mente at denne metoden kunne brukes i pasientbehandling.

Weizenbaum oppdaget også at mange studenter og kontoransatte på MIT hadde alvorlige samtaler med ELIZA. Det sjokkerte, han hadde kun laget programmet som et eksempel på helt primitiv språkanalyse. Programmet hadde ingen forståelse av hva som ble sagt.

Algoritmiske venner

I dag, med kraftigere datamaskiner og muligheter til å bruke store datalagre, kan vi imidlertid lage noe mer avansert. IBM har utviklet programmet Watson som med sine algoritmer kan svare på spørsmål, for eksempel slik de stilles i spørreprogrammet Jeopardy. Kanskje vi kan bruke dette programmet til å simulere venner for ensomme på Facebook.

Dine algoritmiske venner vil også fortelle deg om sine ”liv”, hvor de er på ferie, hva de har til middag og be om forståelse for sine problemer.

Siden mye av kommunikasjonen på sosiale medier kan være overfladisk skulle det være en overkommelig oppgave å lage algoritmer som kommenterer det som blir lagt ut og som «liker» innslagene fra andre. Har en problemer vil disse vennene være like forståelsesfulle som ELIZA, men ha langt mer innsikt enn denne primitive algoritmen. Og selvfølgelig, dine algoritmiske venner vil også fortelle deg om sine «liv», hvor de er på ferie, hva de har til middag og be om forståelse for sine problemer.

Skal vi akseptere?

Med talegjenkjenning som i Apples Siri kan en kanskje også etter hvert få mulighet til å ha samtaler med algoritmiske venner. I gamle dager kunne rikfolk kjøpe seg en «companion», en person som kunne holde en med selskap. Det har de færreste råd til, men algoritmene kan gjøre jobben gratis.

Kanskje vi skal ha et pragmatisk syn og akseptere alt nettopp under forutsetning at algoritmene kan lure oss.

Kai A.Olsen

Skal vi akseptere slike algoritmer? Vi er da tilbake til hva Rådet for sykepleieetikk sier – er det riktig å lure folk til å tro at det er et levende vesen en kommuniserer med? Kanskje vi skal ha et pragmatisk syn og akseptere alt nettopp under forutsetning at algoritmene kan lure oss. Problemet kommer vel kanskje først om du oppdager at noen av dine Facebook-venner bare eksisterer inne i en datamaskin.

Robotselen Selma kan hjelpe eldre med demens.

Se: Robotselen Selma