ChatGPT ble lansert i november 2022 av OpenAI, og interessen for bruk av kunstig intelligens har økt kraftig.

Over 100 millioner brukere har registrert seg på chatboten som har imponert en hel verden ved å kunne svare på «alt mulig».

Det er den raskeste brukerveksten i historien.

Men hvis en ny kunstig intelligens kan skrive «alt», betyr det at den også kan brukes til å generere skadelig innhold?

Det tok ikke lang tid etter lansering før faresignalene dukket opp på nett.

– Terskelen for nettkriminalitet blir mindre

Check Point er et amerikansk-israelsk IT-sikkerhetsselskap. De samarbeider blant annet med amerikanske NSA i kampen mot trusseletterretning.

Da ChatGPT ble lansert, så selskapets forskningsgruppe på risikoer og muligheter rundt kunstig intelligens og chatboter.

De fant flere skremmende resultater.

Sergey Shykevich er gruppeleder for trusseletterretning i den israelske delen av Check Point.

Ved å teste mulighetene til ChatGPT, har de funnet bevis på at det er mulig å generere svindel-epost, phishing-epost og ondsinnet kode.

Kunstig intelligens åpner opp muligheten for at kriminelle med minimal digital kompetanse, kan få kraftig drahjelp fra flere verktøy.

I tillegg kan hackere få ned kostnader og effektivisere arbeidet, når kunstig intelligens kan bidra med jobben.

I tillegg til svindel, fant de innlegg om hvordan man kan gjenskape skadevare for infostealer og skrive krypteringsnøkler over flere lag.

Kombinert med at chatboten kan oversette tekster til alle verdens språk, kan den tilpasses til å treffe store grupper med mennesker.

Stor risiko, men også nye muligheter

Pernille Aaby er konsulent i Differ Strategy Consulting.

Hun tok nylig mastergrad i kunstig intelligens ved Oslo Met, og skrev masteroppgave om kunstig intelligens og språkmodeller.

For å forstå hvordan ChatGPT kan misbrukes, må vi først se på hvordan den fungerer i praksis.

For hva er annerledes ved at ChatGPT samler informasjon for oss, enn å bruke en søkemotor til å finne resultater selv?

Vi spør Aaby om hvordan den skiller seg ut, sammenlignet med søkemotoren Google som et eksempel.

Hun forklarer det slik:

Og det er nettopp dette «biblioteket» ChatGPT baserer seg på.

Som en avansert språkmodell består den av enorme mengder informasjon og artikler.

Det innebærer også artikler om skadelig programvare, svindel, og koding.

Pernille Aaby er tydelig på at det er knyttet risiko rundt de nye KI-verktøyene, og tror vi kommer til å se en økning i negativ bruk.

Men kunstig intelligens er kommet for å bli. Hun mener det er langt flere fordeler enn farer med de nye chatbotene.

Hun bruker for eksempel ChatGPT selv i forbindelse med koding.

– Snart vil nok alle utviklere bruke den. Selv bruker jeg den til å feilsøke i egen koding, og får ofte opp feilmeldinger og tilbakemeldinger fra chatboten.

Hun legger til at før lanseringen var nettopp Google det foretrukne verktøyet. Nå har også ChatGPT tatt over søkejobben.

Også når hun trenger alt fra inspirasjon til alt annet en koding, som for eksempel tekster og presentasjoner.

På spørsmålet om svindel-epost og målrettede angrep, mener hun det er viktig å være nysgjerrig på ChatGPT, og gjerne teste den ut.

– Man burde bli mer skeptisk til ukjente avsendere, men det er allerede et problem. Jeg får for eksempel ofte meldinger av besteforeldre som lurer på hva noe er. Da sier jeg alltid, ikke trykk.

For å virkelig forstå hvor omfattende og god den nye chatboten er, oppfordrer hun alle, også besteforeldre, til å prøve selv.

– Prøv den, bruk den, og se hvor bra den er. Da tror jeg du blir mer kritisk.

Dersom noe er for godt til å være sant ...

Også Telenor jobber mye med datasikkerheten rundt innføring av chatboter.

De har satt ned et eget utvalg som jobber med truslene rundt kunstig intelligens.

– Vi har behov for å bygge en kollektiv sikkerhetskultur.

Bjørn Richard Watne er global sikkerhetssjef i Telenor.

Han viser til at det vi ser nå, kun er en begynnelse.

Tidligere har svindelforsøk på nett som oftest kommet i form av masseproduserte meldinger.

Med fremtidens kunstig intelligens kan det snart være historie.

Se for deg at en ny KI-modell kan skanne profiler på sosiale medier, og skreddersy meldinger basert på din offentlige informasjon og likerklikk.

Da kan det bli enda vanskeligere enn i dag og vurdere om det man mottar er reelt eller ikke.

På spørsmålet om hvordan vi som forbrukere kan forberede oss på dette, finnes det to svar.

Han legger til at ingen seriøse tjenester vil be deg om å dele sensitive personopplysninger.

I tillegg kan det være lurt å ta direkte kontakt, om disse meldingene kommer fra profilen til familie eller andre bekjente.

De nye chatbotene kan nemlig også gi seg ut for å være personer du kjenner.

Hva kan vi egentlig gjøre?

Kunstig intelligens utvikler seg så raskt at det kan virke overveldende å henge med.

Samtidig som flere og mer avanserte programmer blir tilgjengelige for massene, øker også fokuset på mottiltak og cybersikkerhet fra myndigheters side.

Håkon Styri er seniorrådgiver i Nasjonal sikkerhetsmyndighet.

– Mange land etablerer nasjonale strategier og lovregulering på området kunstig intelligens. Nato har en strategi for kunstig intelligens, og det forhandles frem internasjonale avtaler om det samme.

Selv om bevissthet rundt ny teknologi blir viktig i årene fremover, mener Styri at vi fortsatt må forberede oss på en økning i dataangrep.

– Vi må også være forberedt på at svindelforsøk og dataangrep blir mer avanserte.

Flere hundre tusen mennesker i Norge, gjerne eldre, har manglende digital kompetanse. Det er også denne gruppen som oftest blir ofre for svindel over nett.

Styri peker på at det å skaffe seg kunnskap og kompetanse, og viser til det nettbaserte kurset «Elements of AI» som ble lansert på norsk i 2020.

I tillegg oppfordrer han til å bli mer varsom når man får forespørsler og uventende meldinger på nett.

De er viktig at man lærer om både nytte og farer ved bruk av kunstig intelligens på flere områder i samfunnet.

– Og vi må være oppmerksomme på at enkelte ganger kan store teknologiske nyvinninger komme overraskende på oss både som enkeltmennesker og som samfunn.

Og ifølge ChatGPT selv er en sunn dose skepsis viktig, når man ber den om å gi oss noen punkter om nettsikkerhet.

Nye teknologier som snart kan komme

Før jul førte chatbotens evne til å skrive norskoppgaver til en debatt om kunstig intelligens i skolen.

Etter flere artikler om juks på eksamen og utfordringer med ny teknologi, besluttet danske universiteter og forby ChatGPT.

Utdanningsdirektorater skrur av internett på norske videregående skoler under fremtidige eksamener.

Men det er ikke bare chatboter og de utfordringene som er blitt nevnt som kan prege de neste årene.

I tillegg til KI-kunst i form av bildegeneratorer, er også kunstig intelligens i ferd med å revolusjonere lyd og stemmer.

Men hva skjer når hvem som helst kan laste opp en annens stemme, og spre falske sitater og lydklipp over internett?

Kombinert med en økning i deepfake-teknologi kan vi få en stor utfordring foran oss i nær fremtid.

Samtidig er det viktig å huske på at parallelt med nye teknologier, kommer også nye muligheter.

NRK har kontaktet OpenAI som står bak ChatGPT, men de har ikke svart på våre henvendelser.