Forskere på kunstig intelligens fra 20 land boikotter nå et prosjekt som kan lede til utvikling av autonome våpen, på folkemunne kalt «drapsroboter».
Prosjektet er et samarbeid mellom Korea Advanced Institute of Science and Technology (KAIST) og våpenprodusenten Hanwha Systems, skriver The Guardian.
– Dette er et veldig respektert universitet som nå samarbeider med en tvilsom partner som stadig bryter internasjonale normer, sier Toby Walsh, leder av boikotten og professor ved Universitetet i New South Wales.
- Hør podcasten Krig & Fred om temaet:
– Mulig å redde liv i militær kontekst
I et åpent skriv har over 50 akademikere fra ulike universiteter og institusjoner skrevet under på at samarbeidet mellom KAIST og Hanwha bør boikottes.
BEKYMRET: Professor ved Universitetet i New South Wales Toby Walsh, frykter at prosjektet på KAIST vil dra verden i feil retning.
Foto: Juan Mabromata / AFP– Det er rikelig med gode ting du kan gjøre med kunstig intelligens. Man kan redde liv, også i en militær kontekst. Men å åpent kunngjøre at målet er å utvikle autonome våpen med partnere som dette, det er bare veldig bekymringsfullt, sier Walsh til avisen.
Boikotten kommer i forkant av et FN-møte om autonome våpen som skal holdes i Genève neste uke, hvor over 20 land allerede har stadfestet at de er for et forbud mot autonome våpen.
Det er ikke første gang det avholdes et slikt møte om drapsroboter. I november møttes 125 FN-land for å holde samtaler om drapsroboter, og også ta første skritt mot et eventuelt forbud.
Bruken av kunstig intelligens i militæret rundt om i verden har skapt en frykt for Terminator-lignende situasjoner, og samtidig reist spørsmålene om våpnenes feilfrihet og evne til å kunne skille venn fra fiende.
«Slenger seg på global konkurranse»
Hanwha Systems er en av Sør-Koreas største våpenprodusenter, og utvikler ulike våpen som er forbudt i 120 land under en internasjonal avtale – som til nå ikke er signert av Sør-Korea, USA, Kina eller Russland.
Walsh ble først informert om saken da han leste en artikkel i Korea Times, som beskriver KAISTs prosjekt som at de «slenger seg på den globale konkurransen om å utvikle autonome våpen». Artikkelen har ellers en positiv tone til prosjektet.
Walsh hadde skrevet en bekymrringsmelding til universitetet, men ikke lyktes med å få svar.
LEDENDE UTVIKLERE: Korea Advanced Institute of Science and Technology (KAIST) er anerkjent for utvikling innen kunstig intelligens og roboter. Bildet er fra 2016 og viser «den menneskelige» roboten HUBO sammen med oppfinneren Oh Jun-Ho som jobber på universitetet.
Foto: Ruben Sprich / ReutersKAISTs president Sung-Chul Shin, sier han ble skuffet over boikotten.
– Jeg vil understreke at KAIST ikke har noen intensjon om å engasjere utviklingen av dødelige autonome våpensystemer og drapsroboter, sier han i en uttalelse.
– Som en akademisk institusjon, verdsetter vi menneskerettigheter og etiske standarder veldig høyt. Vi vil ikke gjennomføre forskningsprosjekter som strider mot dette, eller som kan sette menneskelig liv og kontroll i fare, utdyper Shin.
– Vil forverre Nord-Korea-situasjonen
KAIST åpnet et eget forskningssenter for nasjonalt forsvar og kunstig intelligens 20. februar i år.
Shin uttalte da at «det ville gi et sterkt grunnlag for å utvikle nasjonal forsvarsteknologi».
– Senteret vil fokusere på kunstig intelligens basert på fly-, kommando- og avgjørelsessystemer, navigasjonsalgoritmer for undersjøiske fartøy, samt sporings- og gjenkjennelsesteknologi, het det i en uttalelse fra Shin som senere ble fjernet.
Det utvikles også en fullstendig autonom «kamprobot» i Sør-Korea – lignende et stasjonert tårn, i stand til å oppdage mål opp til tre kilometer unna. Denne er allerede blitt testet på den militariserte grensen til Nord-Korea.
– Denne utviklingen vil forverre sikkerhetssituasjonen på Korea-halvøyen. Hvis disse våpnene blir utviklet hvor som helst, vil de garantert dukke opp i Nord-Korea, og de vil ikke ha noen betenkeligheter mot å bruke dem mot sør, sier professoren.
