Kunstig intelligens kan gi økt fare for dataangrep mot norske sykehus

De siste årene har bruken av kunstig intelligens (KI) blitt stadig mer utbredt i verden, og det innenfor en rekke samfunnsområder.

I helsevesenet brukes teknologien allerede som støtteverktøy til kliniske beslutninger.

– Det kan være diagnoser, behandlingsvalg, prioritering av hvem som skal få helsehjelp først og det kan være risikoprediksjon, altså å vurdere hvilke pasienter som står i fare for å utvikle en tilstand som man kan gjøre noe med.

Det sier ph.d.-kandidat ved UiT Norges arktiske universitet i Tromsø, Mathias Karlsen Hauglid, til NRK.

Nylig levert Hauglid sin doktorgradsavhandling «Bias and Discrimination in Clinical Decision Support Systems Based on Artificial Intelligence» ved Det juridiske fakultet på UiT.

Der tok han for seg både de positive og negative sidene med bruk av kunstig intelligens i helsevesenet.

Bruken av kunstig intelligens får hovedlærer ved Forsvarets stabsskole, Tom Røseth, til å advare om at det kan gi økt fare for dataangrep mot norske sykehus.

Sensitiv informasjon

Det er ikke bare positive sider ved å bruke kunstig intelligens i helsevesenet.

Flere aktører NRK har snakket med peker også på en annen utfordring:

Spredningen av sensitiv informasjon.

For å få kunstig intelligens til å fungere optimalt trengs en større mengde data, eksempelvis bilder av hender, dersom det skal brukes til vurdering av røntgenbilder.

Selv om bildenes metadata ikke inneholder sensitiv informasjon, kan slikt avsløres, mener ph.d.-kandidaten.

– Det er forskning som tyder på at kunstig intelligens kan kjenne igjen og plassere pasienter i grupper, uten at menneskene som har utviklet systemene eller bruker dem er klar over det, sier Hauglid, før han fortsetter:

– Da har vi mistet oversikt over hvordan sensitiv informasjon blir brukt i en beslutningsprosess.

Diskriminering

En av landets fremste forskere på kunstig intelligens, Ishita Barua, er imponert over Hauglids arbeid, og mener det er unikt at vi nå får forskning på hvordan man skal ta hensyn til både teknologi, juss og medisin i møte med ny teknologi.

– Det er helt unikt i verdenssammenheng.

Barua forteller at det er kroppsforskjeller mellom majoriteten og minoriteten av befolkningen, noe som vil være viktig å ta hensyn til når man skal vurdere kunstig intelligens vurderinger.

Dette da teknologien baserer seg på det den har av data, som i større grad vil inneholde data fra majoriteten av befolkningen. Teknologien er samtidig avhengig av at minoritetene er blitt rekruttert, skal datagrunnlaget til kunstig intelligens være representativt.

Dette mener Barua kan føre til spesielt et problem i helsetjenesten, all den tid man i innsamlet data ikke krysser av for om en person eksempelvis har etnisk bakgrunn.

– Det er det som fører til algoritmisk diskriminering, og det er noe jeg tror vi må være veldig oppmerksomme på, for nå er vi i startfasen, sier hun.

Hun advarer om at bruken av kunstig intelligens kan påvirke sykehusenes evne til å tilby likeverdige helsetjenester uavhengig av bakgrunn hos den enkelte pasient eller pårørende.

– Jeg tror vi står i fare for at vi svekker det tilbudet, at vi diskriminerer enkelte hvis vi ikke har et tilbud til de som får et KI-verktøy på seg som den ikke var trent på.

Barua forteller at bruken av kunstig intelligens innenfor helsevesenet skjer ved at de som ønsker et slikt verktøy enten utvikler KI-modellen selv, eller kjøper «hyllevare». Noe som vil si at de kjøper et ferdig KI-verktøy trent på et datasett som ikke nødvendigvis reflekterer lokale forhold.

Dataangrep

Ved at potensiell sensitiv informasjon ligger samlet i datasett, vil kunne gjøre sykehusene mer utsatt for dataangrep, mener hovedlærer ved Forsvarets stabsskole, Tom Røseth.

– Det er mulig. Kunstig intelligens vil øke dataomfanget, det vil sannsynligvis også øke analysene av aktører, altså enkeltpersoner, enkeltvis eller i grupper, sier han.

Røseth forteller at det er en generell interesse hos aktører for tilgang til helsedata av ulike grunner, og at det kan være onde aktører som søker å anvende disse til etterretningsformål eller økonomiske formål.

Han påpeker at helsedata til en aktør i krise eller krig, som Russlands president Vladimir Putin, er veldig viktig. Videre påpeker han at det ofte er i fredstid man samler inn data.

Spioner?

Fra at etterretningsaktivitet tidligere har dreid seg om klassiske overleveringer av statshemmeligheter, eksempelvis militære kapasiteter eller regjeringens sikkerhet, foregår spionasjen nå digitalt.

I Politiets sikkerhetstjenestes (PST) siste nasjonale trusselvurdering (ekstern lenke), kom det frem at nettverksoperasjoner utgjør «en stor del av russisk og kinesisk etterretningsaktivitet i Norge».

Røseth sier det er vanskelig å si om det foregår spionasje på norske sykehus, fysiske eller digital, eller ikke.

– Men at det pågår aktivitet mot interessante myndighetspersoner og helsedata, det er sannsynlig.

– Vil det være en økt fare for spionasje mot norske sykehus med KI?

– Med KI er det økt risiko for at mer komplekse data kan komme i hendene til uønskede aktører, men dette avhenger selvfølgelig av sikkerheten.

Effektivt

I lengre tid har helsevesenet sett på hvordan de skal løse fremtidens utfordringer. Stadig flere eldre i Norge, kombinert med økt mangel på ansatte, tærer på helsesektoren.

Ph.d.-kandidat Mathias Hauglid tror kunstig intelligens kan være med på å løse noen av de utfordringene som man nå møter.

– Det er en av grunnen til at det allerede er tatt i bruk på Bærum sykehus, hvor et system brukes til diagnostisering ved småbrudd, sier han, før han fortsetter:

– Der har man innført kunstig intelligens for å forkorte tiden det tar å få en diagnose, og ressursene som går med til å stille en diagnose.

NRK har tidligere omtalt hvordan kunstig intelligens blir bruk på Bærum Sykehus til å analysere røntgenbilder:

Kraftig økning

Ph.d.-kandidat Hauglid mener en av utfordringene ved bruk av avansert teknologi som kunstig intelligens, er EUs utdaterte lovverk. Selv mener han vi i dag bruker kunstig intelligens på et gammelt regelverk.

– Jeg tenker beskyttelsesmekanismene ikke er bra nok.

– Det er bedre i det regelverket som kommer, men vi har en fase nå hvor vi risikerer at kunstig intelligens blir tatt i bruk i stor skala, uten at de anbefalte sikkerhetsmekanismene er på plass.

Han mener det ikke er noen tvil om at det i dag pågår et kappløp mellom den vestlige verden og Kina, og antagelig også Russland, knyttet til kunstig intelligens.

De kommende årene tror han vi vil se en eksplosiv økning i bruken av kunstig intelligens her hjemme.

– Jeg tror det i 2024 kommer til å skje en mangedobling av antall kunstig intelligens-systemer som brukes i pasientbehandling i Norge, sier han, og tror det vil øke ytterligere i de påfølgende årene.