Chatbot dukket opp på Snapchat: – Jeg fjernet den med en gang

– Jeg har spurt om hva slags farger som passer til andre farger, sier student Mariel Sunde (24) om den nye KI-chatboten som dukket opp nylig hos Snapchat.

Chatboten har vært tilgjengelig for plussbrukere en stund, men har nå rullet ut gratis for alle.

«My AI» er en type samtalerobot som er bygget med kunstig intelligens på samme måte som andre typer kunstig intelligens, som ChatGPT.

– Jeg fjernet den med en gang jeg fikk den jeg. Jeg har ikke noen interesse av å ha det, også var det litt irriterende at den var festet øverst på Snapchat, sier medstudent Julie Matre (22).

– Jeg synes det er litt dumt hvis man skal bruke det til skole, og ting man ser på som juks. Det er greit hvis man har vanlige spørsmål til hverdagen, sier Sunde.

Hun synes hun fikk et godt svar på hvilke farger som passet til en type gulfarge. Chatboten svarte varme farger.

Kan jukses med

Man kan spørre chatboten om alt mulig rart.

Det er mulig å få tips til å få venner, kjæreste eller hva man kan gjøre hvis man er trist en dag, forklarer Morten Goodwin, professor i kunstig intelligens ved Universitetet i Agder.

– I utgangspunktet kan den brukes til hva som helst. Hva enn du har lyst til å spørre, lekser i utgangspunktet, selv om det er ment å være stengt for det.

Teknologi-siden The Verge meldte at chatboten ikke kunne brukes til lekser, men spør man boten om den skrive en stil om Henrik Ibsen, får man svar med en gang.

Det har blitt utviklet noe som skal kunne se om det er brukt kunstig intelligens på oppgaven, men dette fungerer ikke så godt, forteller Goodwin.

– Egentlig kan man jukse ganske godt om man trenger det.

Kan finne opp ting som ikke eksisterer

I noen tilfeller er ikke kunstig intelligens en god kilde. Både ChatGPT, «My AI» og andre typer kunstig intelligens, kan nemlig finne opp bøker og referanser som ikke eksisterer.

– Den er ikke trent for å snakke sant. Det er en språkmodell for å holde samtaler, ikke en informasjonsmodell, sier Goodwin.

Han forklarer at kunstig intelligens likevel kan hjelpe til ved å skrive om teksten til bedre norsk.

Men å bruke den som ren kilde, er ikke helt lurt. Du kan også overbevise den til å snakke usant. Du kan blant annet få den til å tro at 2+2 er 7 eller gi den andre politiske holdninger, forteller Goodwin.

– Den er litt som en lystløgner som snakker om hva som helst, bare den blir trigget godt nok til å snakke om det. Det trenger ikke å være sant det den sier, og den har ikke noen innebygd moral, sier han.

Han forklarer at chatbotene er trent opp med alt av internett, til og med de mørke sidene.

Bør trå varsomt

Selv om kunstig intelligens kan hjelpe deg på veien med mye, er det derfor ikke bare positive sider.

– Det er god grunn til å trå litt varsomt. Det er ingen grunn til å tro at robotene kommer og tar over verden, men det som er bekymringsverdig er at vi bruker teknologien og har en tendens til å miste litt kontroll, forklarer Goodwin.

Han nevner at chatbotene har fått spørsmål av unge personer om hvordan man kan fjerne lukten av alkohol, marihuana eller få tips til å starte en seksuell handling.

En teknologi-spaltist i The Washington Post utga seg for å være en 15-åring som ville arrangere en bursdagsfest, og fikk tips om hvordan man kunne dekke over lukten av alkohol og marihuana.

I ettertid har Snapchat lagt inn at «My AI» skal se bursdagen registrert på Snapchat-profilen til brukerne, uavhengig av hva brukeren sier om alder i chatten, ifølge Snapchat.

Kan begrense tilgangen til brukere

Chatboten lærer over tid.

Den ble bygget ved hjelp av Open AI-teknologi som ble designet for å unngå partisk, feil, skadelig eller villedende innhold, forteller en talsperson i Snapchat i en e-post til NRK.

– Vi har programmert ytterligere sikkerhetstiltak og bruker Open AIs modereringsteknologi til vårt eksisterende verktøysett, som vil tillate oss å vurdere alvorlighetsgraden av potensielt skadelig innhold og midlertidig begrense brukerne tilgang hvis de misbruker tjenesten.

Videre skriver vedkommende at hvis brukere opplever upassende eller feilaktige svar, bør man rapportere det.