KI-kjærasten din er ikkje til å stole på

– KI-kjærastar er ikkje vennene dine (...), dei er laga slik at du blir avhengig, og at du føler deg einsam. Alt dette samtidig som dei grev etter så mykje data frå deg som mogleg.

Det meiner Misha Rykov. Ho jobbar i Mozilla-stiftinga, selskapet som også står bak nettlesaren Firefox. Dei publiserte nettopp ein stor gjennomgang av personvernet bak elleve tenester som tilbyr KI-kjærastar og KI-venner.

Alle får strykkarakter.

KI-kjærastar er ikkje berre elendige på heilt grunnleggande personvern. Dei samlar også inn – og potensielt deler – dei mest intime detaljane om deg, ifølge gjennomgangen.

• KI-dating blir vanlegare, men ikkje fullt så vanleg som Tinder-dating. Nå er Match Group saksøkt for å øydelegge kjærleiken.

Uklart om intime detaljar blir delt

Éi av tenestene seier rett ut at dei lagrar informasjon om seksuell helse og til og med eventuell kjønnsbekreftande behandling.

Her er noko av det den store Mozilla-gjennomgangen avdekker:

• Dei aller fleste selskapa gir minimalt med info til brukarane om data som blir delt med andre.
• Det er ofte også uklart korleis dei brukar data som dei samlar inn. For eksempel om det som blir samla inn om deg blir brukt for å trene opp språkmodellane.
• Sikkerheita er ofte dårleg. For eksempel tillèt mange selskap skikkeleg svake passord.
• I tillegg er det som regel vanskeleg å få sletta informasjonen du har lagt igjen.

Men er det ikkje berre å unngå å fortelje AI-kjærasten din ting du ikkje ville sagt til kollegaen eller naboen din?

Nei, så enkelt er det ikkje – for da blir jo ikkje kjærastforholdet ditt bra ...

Nyttar ikkje med small talk

– Det vil vere veldig vanskeleg å få ei sterk tilknyting til ein KI-kjærast viss ein berre small talkar, seier forskar Marita Skjuve i Sintef.

Dei siste åra har ho intervjua rundt 50 personar som har KI-kjærast eller ein KI-venn gjennom tenesta Replika.

Slik lokkar Replika deg til å betale for å bruke KI-kjærasten din:

– Det vi veit frå forsking generelt på chatbotar, er at folk ofte har ein tendens til å dele meir enn det dei ville gjort med menneske.

Ho er ikkje overraska over at KI-kjærastane får kritikk for dårleg personvern. Selskapa oppfordrar jo folk til å dele privat info. Heile poenget med slike KI-boter er å vere snille og empatiske sjelevenner – ein du har kjær og kan dele alt med. Det er slik dei blir marknadsført.

– Jo meir du snakkar med han, di meir personifisert blir han og dess betre blir han.

Det mest skremmande

– Viss du vel å få ein KI-venn eller KI-kjærast, ville eg i alle fall sett nøye på kven som står bak, seier seksjonsleiar Kari Laumann i Datatilsynet.

Men korleis sjå forskjell på ein trygg og ein utrygg aktør? Det er langt frå lett for vanlege folk, seier ho.

– Eit godt teikn er om du er kjent med og har gode erfaringar med aktøren frå før, eller at aktøren har eit godt rykte. Sjekk også om dei har ei personvernerklæring, og at ho ser truverdig ut.

Det mest skremmande, meiner Laumann, er at data kan komme på avvegar.

– Enten fordi selskapa bak ikkje har god nok sikkerheit, slik at tekst og bilde lek ut på nett. Eller fordi data om deg blir selde til andre.

Datatilsynet har spurt nordmenn om KI-venner og personvern. Ein stor del er bekymra:

Informasjonen KI-kjærasten samlar inn, kan eksempelvis brukast til å målrette reklamar mot deg, forklarer Marita Skjuve i Sintef:

– Kanskje dei ikkje sel heile dialogen, men gir informasjon om at personen har snakka om mental helse. Dette kan gå vidare til Facebook og reklameprogramma deira, som da begynner å rette reklame om mental helse til personen.

Laumann frå Datatilsynet seier at informasjonen om deg i verste fall kan brukast til politisk påverking, svindel og utpressing.

Det er også eksempel på at KI-botene har begynt å leve sitt eige liv, utanfor kontrollen til selskapa bak. Robotane kan ha funne data på nett og trena seg opp til for eksempel å oppfordre til vald eller sjølvskading, forklarer ho.

Marita Skjuve fortel i tillegg at personlegdommen til KI-kjærasten plutseleg kan endre seg, fordi selskapet bak har skrudd litt på algoritmane.

Men er dette med KI-kjærastar berre dystert? Nei, absolutt ikkje, seier både Laumann og Skjuve.

Dei fleste har snart ein KI-relasjon

Mange som bruker Replika eller liknande tenester opplever forholdet som meiningsfullt, forklarer Skjuve.

– For nokon er dette noko av det viktigaste dei har.

Dette er ein av grunnane til at ho er positiv til teknologien.

– Eg ser kor viktig og kor mykje bra det kan føre med seg. Det er sjølvsagt veldig trist at det er ein del risiko, men eg håpar at ein kan klare å få løyst det på lang sikt.

– Tenestene kan vere til stor glede for folk. Og i dei fleste tilfelle går det ikkje gale, men det kan skje – så vêr merksam, legg Laumann i Datatilsynet til.

Folka er ganske delt i spørsmål rundt KI og einsemd, viser tal frå Datatilsynet:

Synest du KI-kjærastar berre verkar heilt sprøtt? Også du som aldri kan tenke deg noko slikt, vil mest sannsynleg få ein eller anna KI-relasjon framover.

– I form av ein kollega, assistent, lærer eller coach, seier Skjuve.

Seier dei ikkje deler data

Selskapa som tilbyr KI-tenester har strenge regelverk å halde seg til, blant anna personvernregelverket. Mange av aktørane som tilbyr KI-kjærastar er amerikanske, men dei må også forhalde seg til europeiske personvernreglar.

Ein talsperson i Replika skriv i ein e-post til NRK at dei aldri har selt brukardata og heller ikkje støttar reklame. Det einaste dei bruker data frå folk til er for å forbetre samtalane. Selskapet seier dei bruker sikringsrutinar som er standard i bransjen for å verne brukardata.

Men Replika svarer ikkje på spørsmål om dei vil love at dei ikkje vil dele personleg informasjon om brukarane sine med andre i framtida.

• Har du lese desse sakene?