Forlagene fortviler over falske KI-bøker

Teknologijournalist Rory Cellan-Jones publiserte nylig sin siste bok, som er et dypdykk i egen familiehistorie.

Han publiserte boka i Amazons nettbutikk (Amazon KDP) og ventet spent på responsen.

Noen dager etter fikk Cellan-Jones tips om andre bøker han burde lese. En av dem var en bok som lignet fryktelig på hans egen. Det var en biografi om Cellan-Jones, skrevet av en ukjent forfatter.

– Jeg tenkte, hvem vil skrive biografi om meg, sier Cellan-Jones til Guardian.

Svaret på gåten var kunstig intelligens. Noen hadde brukt den nye teknologien til å skrive sin egen bok, for å ta inntekter fra den nye boka til Cellan-Jones. Faktisk lå det flere varianter av boken i nettbutikken.

– Fullstendig sprøyt, sier Cellan-Jones om innholdet i bøkene skrevet av KI.

Den falske boka om Cellan-Jones og andre titler av forfatteren med samme pseudonym skal ha blitt fjernet av Amazon. Likevel skal flere andre bøker ha funnet smutthull gjennom filteret som skal luke ut lavkvalitetsbøker, ifølge Guardian.

• Les også: Studenter ble lurt – bestilte bøker som ikke finnes

Revolusjonen kommer

KI-forsker og forfatter Inga Strümke grøsser av historien.

– Det som skjer på Amazon nå, viser hvor aktuelt dette er på engelsk. Du trenger ikke masse fantasi for å se for deg at dette kan bli et problem på norsk også.

Tilfellene i Amazons bokhandel har ikke kommet til Norge ennå, her vi har et annet boksystem. Men teknologien finnes og er i kraftig utvikling.

– På veldig kort sikt kan vi si at Chat GPT er dårligere på norsk. Så den vil være mer klønete. Men det er et kortsiktig ingeniørproblem. Med en gang den får norsk data, så vil problemet gradvis slutte å eksistere.

For å gjøre en parallell: Musikkbransjen tjente en gang i tiden penger som gress, men så kom Spotify. Hollywood hadde en gang all makt over filmbransjen, men så kom strømmetjenestene. Alt ble snudd på hodet av banebrytende ny teknologi.

– Kan man si at den revolusjonen som har skjedd i musikk- og filmbransjen, også vil komme til bokbransjen ganske snart?

– Ja. Det vil det nødvendigvis, rent teknologisk, sier Strümke.

• Les også: Jan Kjærstad og den kunstige intelligensen

Gyldendal: – Kan ikke gardere oss mot svindel

– Hele bransjen ble blåst av banen da vi så hva de generative modellene (Chat GPT) kunne gjøre, sier Einar Ibenholt, Gyldendals direktør for strategi og utvikling.

Han forteller at forlagene har måttet «hive seg rundt» mange ganger i løpet av det siste året.

– Hovedutfordringen med feltet er at det er så nytt og fundamentalt. Vi har ikke hatt noen bokser å putte det i. Det betyr at våre syn på hva dette er, har flyttet seg måned for måned, sier Ibenholt.

NRK har de siste ukene vært i kontakt med flere av de største forlagene i Norge (Gyldendal, Cappelen, Aschehoug, Vigmostad & Bjørke, Kagge), for å vite hvordan de ser på problemet.

Dette sier de:

• Kompetanse. Noen forlag har laget egne grupper/nettverk som skal takle utfordringene fra kunstig intelligens, men ingen har ansatt egne eksperter.
• Åndsverk. Forlagene opplever at opphavsretten er under press, og at gamle konvensjoner og avtaler ikke lenger strekker til. Flere snakker om en oppdatering av Bernkonvensjonen.
• Regulering. Forlagene ber om regulering fra norske og internasjonale myndigheter. Mye hviler på EUs «AI-act».
• Giganter. De norske forlagene er bekymret over makten til de store teknologiselskapene, som ikke trenger å ta hensyn til det norske boksystemet.
• Søksmål. Forlagene ble sjokkert av The Atlantics avsløring om at norske forfattere har blitt brukt til å trene kunstig intelligens. Flere forlag vurderer søksmål.

Gyldendal og flere andre forlag sier de allerede har oppdatert kontraktene de skriver med forfattere, for å tilpasses den nye teknologien. Der må forfatteren skrive under på at hen ikke har brukt kunstig intelligens i forbindelse med skrivingen.

– Vi kan ikke gardere oss mot svindel, men forfatterne må skrive under på en kontrakt. Så hvis man har brukt Ki, er det et lovbrudd.

– Norge må ordne opphavsretten

De norske forlagene har kommet med samme bønn som omtrent samtlige andre bransjer; de vil ha regulering fra myndighetene.

Norske myndigheter har i stor grad dyttet ballen videre til den mye omtalte Ai Act, som EU ventes å komme med innen neste år. Men den trenger vi ikke å vente på, sier Strümke.

– Norge er med i EØS, så det virker sannsynlig at vi kommer til å si «åh, tusen takk, en regulering». Men EU kan ikke tvinge oss, selv om vi er med i EØS. I Norge bestemmer vi hvilke reguleringer vi vil ha. Så vi trenger ikke å vente på EU.

Ryktene vil også ha det til at Ai Act ikke kommer til å ta for seg opphavsrett. Det må de enkelte landene løse selv. Strümke vil at vi skal bruke våre egne prosesser til å lage lover som funker.

– Det kunne vi ha satt oss ned og begynt med i morra hvis vi ville, sier Strümke.