Stemmen til David ble klonet og misbrukt

Norsk-amerikanske David Menkin er stemmeskuespiller og er blant annet stemmen til karakteren Breach fra spillet Valorant.

Han har den siste tiden oppdaget flere ganger at stemmen hans har blitt brukt til å si ting han ikke står for eller hadde sagt.

Et klipp han viser NRK er mer uskyldig, der karakteren hans synger en Disney-sang fra filmen Encanto.

Mens på et annet KI-generert klipp sier «Menkin»:

– Det er jo grusomt. Jeg vil ikke at noen skal tro at jeg kan si sånne ting. Det betyr jo at jeg har null kontroll over hva folk kan bruke min stemme til.

Kan klone stemmen din på 30 sekunder

KI-generering av stemmer har blitt veldig tilgjengelig. Et raskt søk på nett gir utallige muligheter til å klone egen eller andres stemme på 30 sekunder.

Det gjør det også vanskelig å finne ut av hvem som står bak. Hvem som helst som har tilgang til en PC og et kredittkort kan klone en stemme.

– De fleste kan gå inn og finne et produkt som tilbyr deg å klone stemmer, hvis du har en viss mengde materiale, sier Alex Moltzau fra forskningskonsortiumet NORA.ai.

Noen av programvarene er gratis, andre koster rundt 10 dollar eller rett over hundre norske kroner.

– Jeg tenker at det er et varsko for valgåret som kommer. Jeg skjønner at folk er litt bekymret, sier Moltzau.

– Vi må virkelig holde tunga rett i munnen. Samtidig må vi på en måte ha tillit til informasjon, men vi må nok tenke oss om et par ganger.

Kan også misbrukes av stater

– Dette er noe som opptar oss veldig, og vi er bekymret for den raske utviklingen, sier Andreas Skjøld-Lorange, fagdirektør ved Nasjonal sikkerhetsmyndighet.

For kloning av stemmer og lyd kan også misbrukes av stater og andre aktører.

– Vi ser jo at vi allerede har eksempler fra både Slovakia og Storbritannia, og ikke minst under primærvalget i New Hampshire i USA, hvor «Joe Biden» plutselig ringte til en rekke velgere og ba dem om å ikke stemme.

Digitaliseringsdepartementet mener et EU-lovverk er rett rundt hjørnet.
– Dette er allerede ulovlig og er ikke noe mer lov bare fordi det blir gjort ved bruk av KI. Men det er noen åpninger i lovverket som ikke klarer å regulere kunstig intelligens. Der jobber Norge langt fram, sammen med EU, sier digitaliseringsminister Karianne Tung.

Men skuespiller David Menken mener Norge ligger altfor langt bak.

– Jeg føler at Norge sover i timen. Det er ikke noe lovverk på plass. Vi kan ikke vente på EU og USA.