Trusselen fra kunstig intelligens sammenlignes med atomkrig og pandemi, i en underskriftskampanje på nettstedet til «Center for AI Safety» (CIS).
Flere av verdens fremste KI-forskere har skrevet under på oppropet.
En av underskriftene tilhører Sam Altman, mannen bak selskapet som lager Chat GPT. Demis Hassabis, sjef for Google DeepMind, har også sluttet seg til oppropet.
CIS kommer med faretruende spådommer om hva kunstig intelligens kan brukes til:
- KI kan bli brukt som våpen, for eksempel ved å bruke verktøyene for å oppdage nye medisiner, til å lage kjemiske våpen.
- KI-generert desinformasjon kan destabilisere samfunnet og ødelegge vår evne til kollektiv beslutningstaking
- Makten til KI kan bli for konsentrert, noe som gjør det mulig for regimer å undertrykke og overvåke
- Generell svekkelse, der mennesker blir like avhengig av KI som i filmen «Wall-E»
– Å redusere risikoen for utryddelse fra kunstig intelligens bør være en global prioritet, heter det i oppropet.
Lei av «dommedagsprofetier»
Andre forskere mener farene er overvurdert.
Geoffrey Hinton, Yann Lechun og Yoshua Bengio blir ofte referert til som den kunstige intelligensens gudfedre, etter årevis med banebrytende arbeid i feltet.
Men gudfedrene er ikke enige om farene ved kunstig intelligens. Mens Hinton har skrevet under på oppropet, har Lechun sagt at han ikke støtter de apokalyptiske advarslene.
– Den vanlige reaksjonen til KI-researchere når de hører disse dommedagsprofetiene, er å legge ansiktet i hendene, skrev Lechun i en tweet nylig.
Den franske KI-forskeren får støtte fra sin norske kollega, forsker og skribent Inga Strümke.
LEI: Ki-forsker Inga Strümke er lei opprop, underskriftskampanjer og dommedagsprofetier. Hun mener de ødelegger debatten.
Foto: Ine Julia Rojahn Schwebs / NRK– Det går komplett inflasjon i oppropene. Jeg begynner å bli litt irritert. Basert på mitt lille utvalg av KI-forskere, merker jeg at folk begynner å synes dette er litt rart.
Hun sier innholdet i oppropet virker spekulativt og karikert.
– Vi har ikke sett kunstig intelligens gjøre skade på nivå med atomvåpen ennå. Jeg er mye mer bekymret for klima og cybersikkerhet, så jeg skjønner ikke disse stadige oppropene.
- Les også: Kan kunstig intelligens vinne krigen mot pukkellaksen?
- Les også: Tror kunstig intelligens kan gjøre oss til et bedre og rikere land
«Se så ansvarlige vi er»
Strümke, som nylig skrev en bestselger om kunstig intelligens, synes folk bør være skeptiske i møte med dommedagsprofeter.
– Det er veldig «ulv, ulv»-stemning nå. Jeg skjønner at folk får nok, når debatten alltid skal handle om hva slags monster vi har skapt. Debatten må mye lenger ned på jorda.
Hun tror utspillet fra Sam Altman og kollegene handler om flere ting enn bare KI.
– Det kan godt hende at det er litt imagebygging her. «Se så ansvarlige vi er». «Se så mye vi tenker på store bildet». Det kan være Sam Altman er samfunnsengasjert og bekymrer seg på ordentlig. Eller så kan de hende at dette er ordentlig bra PR. Det kan være så mye forskjellig.
EU lager ny KI-lov
I løpet av juni skal EU stemme over en ny KI-lov, som blir den første av sitt slag.
Regelverket har allerede fått kritikk for å komme med for få konkrete krav. Inga Strümke har vært en av kritikerne, men hun er glad det skjer noe.
– Jeg er glad for at den finnes, for den konkretiserer diskusjonen. Jeg har etterlyst algoritmetilsyn i Norge, men jeg får høre at det blir for vanskelig. Poenget mitt er at vi må konkretisere noe, for i det hele tatt å kunne ta debatten, sier Strümke.
