Hopp til innhold

ChatGPT fant feilen der helsevesenet mislyktes: – Utfordrende

Unilabs koplet ikke at cysten kunne være årsaken til de alvorlige plagene hans. Det gjorde ChatGPT. Likevel advarer Overlegeforeningen.

Montasje cyste i rygg.

Den hviten ballen er cysten som viste seg å være skyld i 48-åringen smerter.

Jeg ble veldig overrasket da jeg så at de ikke kommenterte det som var så veldig synlig på mange av bildene.

Det sier en 48 år gammel mann fra Rogaland, som ønsker å være anonym når NRK tar kontakt.

48-åringen mener ChatGPT ga ham bedre svar enn røntgeninstituttet Unilabs. Han har derfor klagd inn selskapet til Statsforvalteren i Rogaland, som har opprettet tilsynssak.

Samtidig advarer både Unilabs og Overlegeforeningen folk mot å bruke ChatGPT og andre KI-verktøy på denne måten.

Dette kommer vi tilbake til. Først historien til 48-åringen:

For et år siden hadde han så store smerter at han hadde vondt for å sitte. Smertene satt i baken og han opplevde svakhet i beina.

Fastlegen henviste ham til MR-undersøkelse hos røntgeninstituttet Unilabs.

Unilabs Sandnes.

Mens 48-åringen ventet på svar fra undersøkelsen, kjøpte han tilgang til sine egne MR-bilder. Han lastet dem så opp til KI-tjenesten ChatGPT.

Responsen kom rimelig kontant: MR-bildet viste en såkalt Tarlov-cyste i nedre del av ryggen. Og videre en beskrivelse av symptomer 48-åringen kjente seg godt igjen i.

Mannen tok derfor for gitt at det ville komme et svar fra Unilabs som beskrev cysten, og forslag til videre behandling.

Men svaret overrasket mannen: «lette slitasjeforandringer» og «ingen øvrige funn».

48-åringen sier han ble «helt paff» og kontaktet derfor Unilabs for en ny vurdering.

Les også Blir leger dårligere med KI?

Koloskopi (Illustrasjon)

«Bifunn»

Unilabs mente da at cysten var et såkalt «bifunn». Et funn som Unilabs, utfra henvisningen fra fastlegen, mente ikke hadde noe med smertene hans å gjøre, og som han derfor ikke trengte å vite noe om.

Det stod nemlig ikke noe i henvisningen som tilsa at cysten skulle ha noen betydning, ifølge Unilabs.

MR-bilde av en Tarlov-cyste i ryggen.

Den hvite ballen er cysten.

På grunn av dette lette 48-åringen og legen hans etter andre forklaringer. Han trappet for eksempel opp på en stoffskiftemedisin som endte med tre innleggelser underveis – i håp om å finne årsaken til smertene.

Men ChatGPT hadde rett hele veien: En nevrolog undersøkte ham og tok nye MR-bilder: Nevrologen kunne da bekrefte at cysten presset på nervene, noe som kunne forklare 48-åringens økende plager.

I november i fjor fikk mannen operert bort cysten og sier at han føler seg mye bedre.

48-åringen reagerer på at en så stor cyste ikke ble kommentert av Unilabs i første runde.

Unilabs mener de ikke har brutt god medisinsk praksis i saken (Les svaret fra selskapet lenger nede i saken).

– Risiko

Denne historien til tross: Overlegeforeningen advarer folk mot å bruke KI-verktøy til å få svar om egen helse.

– Vi løper en betydelig risiko hvis vi bare lar pasientene dobbeltsjekke alt med ChatGPT. Da vil totalbehandlingen bli dårligere, sier Ståle Clementsen, leder i Overlegeforeningen.

Ståle Clementsen, leder i Overlegeforeningen

Ståle Clementsen.

Foto: Rolf Petter Olaisen / NRK

For hver enkelthistorie der en pasient finner ut hva som er galt ved hjelp av KI, finnes det mange flere der KI leder pasienter i feil retning, ifølge Clementsen.

– Og dette vil kunne føre til mange unødvendige undersøkelser og i noen tilfeller påfølgende unødvendig behandling. Dette vil kunne være en stor belastning for pasientene selv, og vår felles helsetjeneste, sier han.

Les også Nå skal staten gjøre det vanskeligere for deg å få MR: – Folk har høye forventninger

Lege Jan Robert Johannessen på sitt kontor på Hinna i Stavanger. Gynekologstol i bakgrunnen.

Clementsen forstår samtidig at 48-åringen er frustrert over behandlingen han har fått i dette tilfellet.

Mener KI byr på utfordringer

Også medisinsk direktør i Unilabs, Fredrik Nomme, uttrykker frustrasjon over at folk spør ChatGPT om helse. Han skriver følgende i sitt svar til Statsforvalteren i Rogaland i forbindelse med tilsynssaken:

«Vi erfarer en utfordrende samfunnsutvikling der mange pasienter ukritisk stoler mer på ethvert tilgjengelig KI-verktøy enn de gjør på radiologens/legens uttalelser».

NRK har bedt Nomme om en kommentar til denne uttalelsen og saken generelt, men han viser oss videre til pressetalsmann i Unilabs, Samuel Danofsky:

Mann med briller.

Samuel Danofsky.

Foto: Unilabs

– Pasientsikkerhet er ekstremt viktig for oss og vi tar alle klager på største alvor. Vi har et godt utviklet kvalitetssystem og ser kontinuerlig på hvordan vi ytterligere kan forbedre pasientsikkerheten, sier Danofsky.

48-åringen har opphevet Unilabs' sin taushetsplikt, men selskapet sier de likevel ikke vil kommentere enkeltsaker i media.

– Må utvikle seg

Mannen fra Rogaland er tydelig på at han ikke har noe ønske om at noen skal bli tatt, men at han vil at man skal lære av saken.

– Radiologene må utvikle seg og sin rolle i takt med teknologiutviklingen, sier han.

Ståle Clementsen i Overlegeforeningen er enig i at KI kan bli viktig i framtidens medisin, men først og fremst som et verktøy og supplement til legene:

– En MR er et øyeblikksbilde. Det er behandlende lege og radiologen med sin erfaring som best kan gi en totalvurdering, sier han.

Les også Snart vil kunstig intelligens analysere kroppen din: – Vi er for dårlig forberedt

KI røntgen ved Bærum sykehus

Flere nyheter fra Rogaland

Andreas Høy Knudsen seier unnskyld

Avbraut bystyremøte: Kommunen melder ikkje saka til politiet