Kunstig intelligens er et Franken­steins monster for vår tid

Hei i sommervarmen!

Dette blir siste bokbrev før ferien, hvor jeg ser til «Frankenstein» for å kaste lys over en utvikling som skremmer meg. Det blir altså litt mørkt først, men heng med hele veien, så skal jeg ta deg trygt inn i sommeren igjen. 🌞

Jeg synger hytte­bibliotekets pris, leter etter et godt sommer­leseprosjekt og svinser innom terningkast­gate på NRK.

Ukas bilde er spesielt valgt ut til å ta oss inn i sommerferien. Men la oss ta fatt på hovedsaken i dette brevet.

De siste par årene har jeg hatt flere Frankenstein moments. Stadig vekk hører jeg om noen som har vært i front på å utvikle IT-teknologi, som så raskt oppdager at oppfinnelsen deres brukes til å skade andre.

Jeg hentet derfor fram igjen Mary Shelleys «Frankenstein» (1818).

Det er en av de første, og helt klart den viktgste boka om mennesker som prøver å lage et intelligent vesen. Og ja, jeg så fellestrekk mellom denne 1800-talls skrekkromanen og tek-gründere som Mark Zuckerberg og Elon Musk.

Shelley skildrer skaperen av verdens mest berømte monster som en mann full av gode intensjoner.

Victor Frankenstein vokser opp i et hjem fylt av kjærlighet, dannelse og omtanke. Fra barnsben av er Victor glødende opptatt av det vi på norsk kaller realfag, men som på engelsk heter the natural sciences.

Victors lidenskap er koblet med et betydelig talent, og den unge sveitseren kommer inn på et fremragende universitet i Tyskland. Der fordyper han seg i moderne vitenskap, men også i gamle, alkymistiske tekster.

Den unge vitenskapsmannen har ingen onde hensikter når han setter sammen vesenet sitt, sydd sammen av kroppsdeler han finner på medisinske institutt og noen dyrekadavre.

Victor Frankenstein drives av ren nyfikenhet og utforskertrang.

Men allerede i det øyeblikket vesenet slår sine gule øyne opp, blir Victor «fylt av åndeløs redsel og avsky.»

Frankenstein rømmer fra laboratoriet sitt, og vesenet hans blir overlatt til seg selv. Det besitter superkrefter, men er foreløpig språkløst og kunnskapsløst. Skapningen går ut i verden på egen hånd og prøver å forstå hvem han er og hvordan verden fungerer.

På superkort tid lærer vesenet seg menneskenes språk og skikker gjennom observasjon på avstand.

Når monsteret søker menneskenes selskap, blir han møtt med forferdelse og hat. Rasende over å være overlatt til et liv i ensomhet av sin skaper, blir monsteret destruktivt. Han vil hevne seg og «spre kaos og ødeleggelse» rundt seg.

Det er lett å tenke på «Frankenstein» som en allergori på Guds skapelse av mennesket.

Men det går absolutt an å se på monsteret som en form for KI, en menneskeskapt kunstig intelligens.

I likhet med ChatGPT, Midjourney og annen såkalt generativ kunstig intelligens, lærer Frankenstein-monsteret å forstå verden gjennom å samle inn informasjon om verden og menneskene. De særegne evnene hans brukes både til å gjøre godt og ondt.

Skaperne av ChatGPT er veldig klar over at oppfinnelsen deres kan brukes til dårlige ting. Derfor har de lagt inn en del sikringsmekanismer.

Spør du språkverktøyet om å gi deg oppskriften på en napalmbombe for eksempel, er den programmert til å si at den dessverre ikke vil hjelpe deg med slike destruktive affærer.

Men som NRKs teknologiekspert Eirik Solheim forklarte meg, kan du vri deg unna sikringsmekanismene. Formulerer du deg litt mer snikete, kan du få ChatGPT til å villig stille opp med oppskriften – i beste mening.

Ofte finner jeg trøst i å lese gode bøker om menneskets natur og vesen. Etter å ha lest «Frankenstein» tenker jeg med fortvilelse: Akk, lærer vi aldri?

Historien er full av angrende oppfinnere.

Alfred Nobel stiftet en fredspris til bekjempelse av krig da han så dynamittens destrukrive kraft.

Robert Oppenheimer innså hvilket dødelig våpen han hadde skapt da han så prøvesprengingen av atombomben. Han kjempet for at den ikke skulle brukes i et våpenkappløp mellom land, men tapte den kampen.

Da Mary Shelley skrev «Frankenstein» i 1818, fanget hun med andre ord et evig aspekt ved menneskets vesen.

I romanen sin lar hun doktor Frankenstein selv innbitt advare oss mot menn som vil skape vidunderlige nye ting, men som ikke tar ansvar for det de har skapt.

I mars i år signerte et utvalg teknologitopper et åpent brev der de ba alle pause utviklingen av ChatGPT4.

I podkasten The Daily advarte Geoffrey Hinton, den såkalte «gudfaren av kunstig intelligens», mot en rekke skrekkscenarier. Blant dem så han for seg robotsoldater med kunstig intelligens som kan sendes i krig mot soldater av kjøtt og blod. Det ga meg kalde grøss nedover ryggen.

Om «Frankenstein» ikke kan fjerne frykten min, er det likevel en fryd å lese en så fantastisk roman, som gir perspektiv til vår tid.

Et relevant TV-tips på tampen: Det ligger et en god dokumentar på NRK TV nå om skaperne av blant andre Google, Amazon og Facebook: Tek-milliardærene.

Men du, nå trenger vi litt sommerstemning her. 🍓

Ukas bilde

Det mest kjente bilde av en kjendis som leser bok, må vel være Marilyn Monroe i badedrakt med «Ulysses» av James Joyce.

Det er omstridt om Marilyn faktisk leste romanen eller om det var en gimmick.

I fotoboka «The Unretouched Woman» forteller Eve Arnold om flere av sine fotoshoots med Marilyn. Det kommer tydelig fram at filmstjernen var ekstremt bevisst på hvilket bildet hun ønsket å projisere av seg selv.

Det er lett å mistenke at Marilyn har valgt seg ut en av verdens tyngste klassikere for å motvirke dum & blond-stempelet hun slet under, men også dyrket.

Ifølge fotograf Eve Arnold er motivet både ekte og konstruert. De to var på vei til å besøke Marilyns venn i Long Island. De stoppet på en lekeplass for å knipse noen bilder.

Eve Arnold så at Marilyn hadde «Ulysses» med i bilen, og spurte om hun leste den. Monroe svarte at hun syntes den var vanskelig, men likte å lese litt her og der høyt for seg selv.

Jeg har lest deler av «Ulysses» på engelskstudiet, og er enig med Marilyn. Noen deler er rare og vanskelige.

Ser du nøye på bildet, ser du at Marilyn leser fra slutten av boka, en sanselig indre monolog som ender med et kyss og et ja. Det er også min favorittdel.

Å trille eller ikke trille

Dere har kanskje fått med dere at NRK skal innføre terningkast på litteraturanmeldelsene våre på nett.

Fra før har NRKs anmeldere innen film og TV-serier, spill og populærmusikk forsynt sine kritikker med terningkast. Fra høsten av vil også anmeldelser av bøker, kunst og teater ha et terningkast.

Det er ingen hemmelighet at noen av NRKs kritikere er sterkt imot dette. Marta Norheim forsvarte sitt syn nylig i Dagsnytt 18.

Selv ser jeg både fordeler og ulemper med terningen. Den «lukter» litt av kommersielle medier som VG og Dagbladet, men samtidig er det rart at en bokanmeldelse ikke skal kunne ha terningkast når en filmanmeldelse kan ha det.

Aftenposten forteller at flere leser anmeldelsene deres etter de innførte terningkast på noen kulturfelt.

Jeg synes det er spennende å høre hva du synes, og ikke minst hvorfor. Nederst kan du si din mening om terninger i kritikker.

Sommerlesingens vanskelige valg

Nå er det kun få timer til jeg stempler ut for sommerferien. Det blir digg, men jeg bærer på en nesten eksistensiell angst: Hva skal jeg lese i sommer?

En god venninne leser prosjektbasert når hun får ledig tid. Da hun var i barselpermisjon, leste hun hele Prousts «På sporet av den tapte tid». I fjor sommer leste hun seg opp på nyere kunstteori.

Jeg er både imponert og litt misunnelig på venninna mi, for jeg er dessverre en mer vimsete person.

Hodet mitt er fylt av motstridende stemmer som slåss om å bli hørt:

– Endelig har du tid til å ta for deg noe fra bunken med vårens uleste bøker.

– Ærlig talt, Siss, burde du ikke heller tette et av de mange hullene du har på norske klassikere?

I tillegg har jeg som kulturjournalist en privilegert tilgang på en rekke manus på høstens utgivelser. Tenk å komme på jobb og ligge et hestehode foran, heller enn bak?

I verste fall klarer jeg ikke å velge, og ender opp med å kaste bort tiden på mobilspill.

Jeg har i hvert fall satt meg tre leseforsett for sommeren: Bli ferdig med «Ringenes herre», og fra kritikernes lesetipsliste har jeg valgt meg ut «Løpe ulv» av Kerstin Ekman, og «Lucy ved havet» av Elizabeth Strout. Utover det er jeg rådløs.

Send meg gjerne ditt tips!

Hyttebibliotekets (vid) underlige verden

Et annet alternativ er så klart å droppe alle planer og lese det man finner der man ferierer.

Hyttebibliotek byr gjerne på en snodig miks av gammelt og nytt, og ofte finnes det gullklumper du ikke engang har hørt om.

I byttebokhylla på et hotell på Kreta fant jeg en solkremfettet krim av Tana French, som ble en av mine favorittkrimbøker.

I mammas barndomshjem fant jeg «Papillon» av Henri Charrière, som er en FANTASTISK leseopplevelse.

Er det god tilgang på pocketkrim, er det bare å kose seg. Det et er noe med de upolitisk korrekte 1960-talls bokomslagene som er snacksy.

Hva med deg, finner du noe gøy i hyttebokhylla i sommer?

Send meg bilde av det! Om det er fint, heslig, morsomt eller overraskende. Knips og send til siss.vik@nrk.no.

Noen utvalgte får Bokbrevets bokmerke i premie.

Her finner du lesetips på NRK i sommerferien

Da sier jeg straks hasta la vista før sommeren, men minner om at du kan finne masse nyttig bokstoff på NRK i sommer.

Åpen bok har et skattkammer av anmeldelser, forfatterintervjuer og lesetips det bare er å plukke fra.

På nrk.no/kultur finner du lesetips for barn, ungdom og voksne i ulike lister og alle bokanmeldelsene, og bokbrevet har sin egen side med alle utgavene samlet.

Ok, da logger jeg av, men jeg følger med på kommentarene deres og sjekker innboksen med ujevne mellomrom. Send med e-post med hyttebibliotekbilder og kommenter i vei!

Jeg ønsker deg en god juli med gode leseopplevelser, og pass deg for brennmaneter!

Siss 💗🥰

Kommentér

Hva synes du om at NRK innfører terningkast på bokanmeldelsene sine på nett?