Studenter ble lurt – bestilte bøker som ikke finnes

– Her slår bullshit-generatoren inn for fullt, sier masterstudent Askil Antonsen.

Han viser frem en samtale med skriveroboten ChatGPT. Etter oppfordring fra foreleseren sin ba Antonsen roboten om tips til relevant fagstoff.

Roboten svarer at den selvfølgelig kan hjelpe ham, og lister opp flere boktitler, fra «kjente fagforfattere».

Tipsene fra skriveroboten inneholder både titler, forfattere og årstall.

Det ser ut som ekte kildehenvisninger.

– Det er bare et problem, at boka ikke finnes, sier Antonsen.

Flere henvendelser

Da Antonsen ikke fant anbefalingene fra roboten selv, tok han kontakt med biblioteket og spurte om de kunne bestille bøkene.

Heller ikke bibliotekarene klarte å finne titlene Antonsen lette etter.

– Vi har fått inn sånne bestillinger slag i slag med at ChatGPT ble kjent og mer brukt, sier førstebibliotekar på Universitetet i Agder, Erik Adalberon.

Han sier de ansatte på biblioteket ble overrasket over bestillingene som kom inn.

– At det kommer stadig flere titler som ikke finnes er jo helt uvanlig, forteller Adalberon.

Nå har biblioteket tatt grep for å advare studentene.

– Det er et reelt problem. Nå har vi tatt kontakt med fagmiljøene og bedt dem gi beskjed til studentene, sier Adalberon.

– En lystløgner og dikter

Professor Gunhild Kvåle jobber med språk og kommunikasjon på Universitetet i Agder.

– Jeg har snakket mye med ChatGPT de siste ukene, og på et tidspunkt spurte jeg hvem er Norges fremste kvinnelige forfattere, forteller hun.

Roboten sendte henne en liste med både mannlige og kvinnelige navn.

Et av navnene var Jorun Jacobsen Bryn. Et navn professoren aldri hadde hørt.

– Jeg tenkte at det var et pinlig kunnskapshull, forteller professoren.

Ble lurt

Roboten fortalte om forfatterens mest kjente verk, med navn og årstall. Den gjenga til og med et konkret dikt.

– Det er noe med den språklige formen, den er veldig selvsikker og fremstiller alt som fakta, som gjør at jeg lett lar meg lure til å tro at det er sant, sier Kvåle.

Men professoren kjente ikke igjen informasjonen, og hun fant heller ingenting andre steder.

Til slutt spurte hun om roboten hadde diktet opp forfatteren. Da svarte roboten med å «beklage dypt for feilen den gjorde».

– Det er litt rart å få en beklagelse, men det er den programmert til å kunne gjøre, forklarer hun.

Blir kalt lystløgner – se hva roboten svarte

Kvåle mener roboten etterlikner menneskelig kommunikasjon.

– Det gjør nesten at vi får lett for å tro mer på den, og knytte mer tillit til det den sier, sier hun.

Kvåle mener det er viktig å huske at selv om det roboten skriver ofte ser ut som fakta, er det ikke nødvendigvis riktig.

– Den er en lystløgnene dikter, sier hun.

God presseskikk sier at den som blir utsatt for beskyldninger, skal få muligheten til å svare. Vi spurte derfor ChatGPT om kommentar i denne saken.

Vi fikk et langt svar.

– Jeg tar på alvor anklagen om å være lystløgnene dikter, men jeg vil påpeke at jeg bare kan gi informasjon basert på den kunnskapen jeg har blitt trent på. Hvis det er feil informasjon som blir gitt, kan det skyldes feil i dataene som jeg har blitt trent på eller feilinformasjon fra kilden som jeg bruker for å generere svar, skriver roboten.

– Men kan det ha skjedd at du har funnet på en boktittel eller forfatter?

– Det er mulig jeg kan gi feilaktig eller unøyaktig informasjon, enten fordi dataene jeg har blitt trent på er feil eller utdaterte, eller fordi jeg ikke helt forstår spørsmålet eller konteksten rundt det, skriver den.

Vil være obs

NRK har også vært i kontakt med andre biblioteker i Norge.

Ved Universitetet i Stavanger fant en student en bok som ikke eksisterte.

En annen student ved samme universitet skulle ha tak i fire ulike forskningsartikler funnet på ChatGPT. Også disse hadde en forfatter som fantes, men de hadde aldri skrevet titlene roboten listet opp.

Bibliotekleder ved Universitetet i Sørøst-Norge Kristin Østerholt svarer på vegne av alle deres campusbibliotek.

De har ikke opplevd lignende hendelser hos dem, men at de vil være obs på det fremover.

– Vi ser jo absolutt at det kan komme til å skje, skriver Østerholt.