Artikkel
De fleste norske allmennleger er selvstendig næringsdrivende, og som virksomhetseiere har de ofte kort vei fra idé til beslutning. Det gjelder også når kunstig intelligens tas i bruk i allmennmedisinen, noe som innebærer mulige fallgruver.
For å sikre at kunstig intelligens (KI)-teknologi blir tatt i bruk på en trygg måte i helsetjenesten, bør implementeringen være planmessig, strukturert og bygge på metodevurderinger av KI-produktet (1) . Dette er viktig fordi også KI kan svikte, oppgi feil eller oppdiktede data, som igjen kan ha alvorlige konsekvenser for pasientsikkerheten.
KI i helsetjenesten har stort potensial til å fungere som beslutningsstøtte og til å redusere variasjon i klinisk praksis
KI i helsetjenesten har stort potensial til å fungere som beslutningsstøtte og til å redusere variasjon i klinisk praksis. Innen fag som radiologi og dermatologi har utviklingen allerede pågått over år, og spesialisthelsetjenesten har tatt verktøyene i bruk når det foreligger tilstrekkelig kvalitetssikring og dokumentasjon. KI bør sammen med legen bidra til kunnskapsbasert praksis, ikke erstatte denne (2) . KI-verktøy kan bidra til å identifisere sjeldne tilstander eller uvanlige interaksjoner, men samtidig kan avhengighet og for stor tillit til teknologien øke risikoen for systematiske feil. Det bør derfor foreligge en dokumentert beslutningsprosess når slike hjelpemidler tas i bruk på et allmennlegekontor.
Hvordan ivareta pasientsikkerheten
Hvordan ivareta pasientsikkerheten
Det er viktig at allmennleger i utgangspunktet behandler forslag om å ta i bruk KI-verktøy som utkast og ikke som endelige beslutninger. Som medisinsk ansvarlig bør man etterspørre spesifikk produktvalidering samt myndighetenes vurdering av tilgjengelige verktøy. Rutiner for internkontroll og opplæring i bruk av KI må prioriteres sammen med kompetanseutvikling på området. Allmennleger trenger opplæring i både teknologiske begrensninger og etiske implikasjoner, og ved alvorlige hendelser eller feilfunksjoner knyttet til KI-bruk må legen melde fra om dette (3) .
Myndighetene spiller en nøkkelrolle i å regulere og støtte trygg bruk av kunstig intelligens
For at bruken av medisinske KI-verktøy skal være kunnskapsbasert, må teknologien valideres gjennom godt designede studier (4) . Myndighetene spiller en nøkkelrolle i å regulere og støtte trygg bruk av kunstig intelligens. Helsedirektoratet, Direktoratet for medisinske produkter og Datatilsynet må nå prioritere å utarbeide retningslinjer for KI i primærhelsetjenesten. Etablerte kanaler for å melde feil må tydeliggjøres, og det bør utarbeides et nasjonalt register over godkjent KI-programvare. Feilrater og konsekvenser av feilbruk bør være transparent og tilgjengelig. Implementering av KI-verktøy må følge tilsvarende krav som for legemidler og annet medisinsk utstyr. Dette vil beskytte pasientene og trygge legene.
Mulighetsrommet
Mulighetsrommet
KI-modeller kan bidra positivt til effektivisering og bedre kvalitet. KI-verktøy har blitt tatt i bruk for å analysere bildediagnostikk, tolke laboratorieresultater og foreslå behandlingsprotokoller. Innen allmennmedisin er det stadig flere som benytter seg av KI-verktøy som gir forslag til ferdige journalnotat basert på transkripsjon av konsultasjonen. Om ikke lenge vil de allmennmedisinske verktøyene sannsynligvis også inkludere forslag til diagnoser og behandling (5) . Dette vil medføre en stor endring av allmennmedisinske arbeidsmetoder (6) . Innovasjon, pasientsikkerhet og personvern er alle aspekter som må håndteres forsvarlig og i tråd med reguleringen til enhver tid.
Om ikke lenge vil de allmennmedisinske verktøyene sannsynligvis også inkludere forslag til diagnoser og behandling. Dette vil medføre en stor endring av allmennmedisinske arbeidsmetoder
Rammer og ansvar må tydeliggjøres
Rammer og ansvar må tydeliggjøres
EUs KI-forordning AI Act fra 2024 klassifiserer medisinske KI-systemer som begrenset risiko eller høyrisikosystem (7) . Dette har betydning for dokumentasjon og overvåking. Systemene må demonstrere tilstrekkelig risikovurdering og risikohåndtering og minimere risikoen for diskriminerende resultat. Aktivitet skal loggføres, nødvendig informasjon om hvordan systemet fungerer og hva det brukes til skal oppgis, slik at myndighetene kan vurdere om det oppfyller kravene.
Norge skal innlemme EUs KI-forordning i nasjonal lovgivning. I tillegg forholder vi oss juridisk til forordning om medisinsk utstyr (MDR), som blant annet regulerer CE-merking (8) . De fleste transkripsjonsverktøy som benyttes i norsk allmennpraksis i dag, mangler CE-merking (7) . En utfordring for norske allmennleger er at dagens bruk av kunstig intelligens må tolkes i tråd med eksisterende regelverk som er laget for gårsdagens teknologi. Ansvaret for forsvarlig bruk ligger på den enkelte lege, som hjemlet i helsepersonelloven § 4 (9) .
Tilpasset norske forhold
Tilpasset norske forhold
De KI-baserte språkmodellene som benyttes til journalgenerering bør inneholde kunnskap om norske samfunnsforhold, arbeidsliv og kultur, i tillegg til medisinsk kunnskap. Dette er nødvendig fordi pasientgruppen i norsk åpen og uselektert allmennpraksis er en heterogen gruppe. I tillegg er multimorbiditet utbredt. I hvilken grad de ulike KI-verktøyene reflekterer dette er uklart. Språkmodellene må ikke forsterke skjevheter ved å systematisk over- eller undervurdere risiko på grunn av ikke-representative treningsdata. Samtidig må personvernet ivaretas slik at pasientdata lagres og deles på en sikker måte, innenfor lovreguleringen og kun der det er behov.
Implementeringen må følge de samme etiske og kliniske standarder som vi forventer ellers i helsetjenesten
Selv om KI-teknologi kan frigjøre verdifull tid til pasienten, må implementeringen følge de samme etiske og kliniske standarder som vi forventer ellers i helsetjenesten. Her har vi et felles ansvar for å sikre fornuftig bruk av KI i allmennmedisin.