Teknologi-topper advarer: – Bør vi risikere å miste kontroll over sivilisasjonen vår?

• Bør vi la maskiner ta over alle jobber, inkludert de meningsfulle?
• Bør vi risikere å miste kontroll over sivilisasjonen vår?
• Bør vi utvikle ikke-menneskelige sinn som kan bli flere, smartere og til slutt erstatte oss?

Dette er spørsmål fra noen av verdens skarpeste tenkere rundt kunstig intelligens.

I et åpent brev advarer de sterkt om hva som kan skje hvis ingen griper inn.

Forskerne Yoshua Bengio, Stuart Russell og Victoria Krakovna, Apple-grunnlegger Steve Wozniak, Tesla- og Twitter-sjef Elon Musk, og historiker Yuval Harari er blant over 1150 personer som har skrevet under.

De ber om at det ikke er teknologiledere som svarer på de eksistensielle spørsmålene, slik det er i dag, men at demokratisk valgte politikere må gripe inn.

Og de ber om at alle tar en pause i utviklingen av KI-modeller som er sterkere enn GPT4. Dette er den mest avanserte KI-modellen. KI er en forkortelse for kunstig intelligens.

Etter at selskapet OpenAI slapp chatroboten ChatGPT i november i fjor, har bruken spredt seg over hele verden.

Det samme har kappløpet blant alle de store teknologiselskapene.

Alle vil tilby en bedre versjon enn konkurrenten. Det blir farlig, advarer ekspertene.

Forsker Inga Strümke ved NTNU er helt enig.

– Alle kan gjøre alt

Strümke har skrevet boka Maskiner som tenker, og sier vi allerede ser alvorlige konsekvenser av kunstig intelligens.

Ifølge forskeren er det særlig tre store problemer med utviklingen:

1. Det er ingen formelle krav til risikovurderinger. En får ikke bygge en bro eller motorvei uten en plan for risikohåndtering. Det finnes ingen sånne krav for KI-systemer. Alle kan gjøre alt.
2. Teknologien løper foran jussen. Det tar mye lengre tid å skrive lover enn å utvikle teknologi. Dette er et helt grunnleggende problem.
3. KI-modeller trenger tekst å lære av, og vi ønsker at de skal lære av menneskelig tekst. Når vi ender vi opp med å fylle vår største kilde til menneskelig dialog, altså internett, med KI-generert tekst, gjør vi det vanskelig for fremtidens KI-modeller. Når vi ikke kan skille mellom menneskelig og KI-generert tekst kan fremtidens modeller ende opp med å måtte lære av KI-generert tekst.

– Kanskje vil vi først om ti år forstå hvor stor skade vi har gjort, sier Strümke.

Hun peker på flere konkrete konsekvenser vi ser allerede i dag.

– Med tilgang til ChatGPT kan det bli vanskeligere å motivere elever til å skrive tekster selvstendig. Men man må skrive for å utvikle kritiske og kognitive evner.

Norske lærere sendte bekymringsmeldinger til Stortinget få uker etter at ChatGPT ble tilgjengelig for alle.

– For lærere er det vanskelig å forsikre seg om at en elev faktisk har skrevet en tekst, hvis de ikke har sett eleven skrive selv, sier Strümke.

Det er også lett å svindle folk ved hjelp av kunstig intelligens.

– Jeg kan trene opp en modell til å høres ut som barna dine, og spille av en talemelding der de ber om tusen kroner. Det er allerede mulig i dag, sier Strümke.

Ber politikere ta grep

Inga Strümke er enig i oppropet, men mener politisk lederskap er mer effektivt.

– Jeg er ingen teknologipessimist. Jeg jobber med dette og vil ha utvikling, men vi må bremse opp. Jeg skulle ønske vi hadde mer ambisiøse politikere, sier hun.

EU har lagt fram et forslag der det stilles krav om risikovurdering ved utvikling av kunstig intelligens. Det vil trolig tidligst tre i kraft i 2025.

Det er lenge til i teknologiverden.

– Det er umulig å si hva som kommer til å skje de neste to årene, sier Strümke.