Kan KI redusere belastningen på allmennlegene?

Det er professor emeritus Anders Grimsmo som gjør oss oppmerksom på dette.

KI kan defineres som teknologier som simulerer menneskelig intelligens til å utføre komplekse oppgaver ved å lære av data om hvordan disse oppgavene skal utføres¹. KI-drevne verktøy er utviklet for å lære av data for å generere dynamiske responser basert på ulike mønstre, kontekster og ulike former for inputs. Svarene kan variere selv om KI får de samme input-data, de tilpasser seg over tid eller er basert på treningsdata.

Kunstig intelligens (KI) i allmennpraksis fungerer som et tveegget sverd. Selv om den reduserer administrative byrder dramatisk og forbedrer effektiviteten, introduserer den betydelige risikoer knyttet til personvern, overdreven avhengighet og klinisk ansvar^2-4. En britisk utredning lister opp følgende fordeler og ulemper med KI¹:

Fordeler med KI:

• Redusert utbrenthet: KI-drevne medisinske sekretærer automatiserer kliniske notater og dokumentasjon, noe som frigjør fastleger til å bruke mer tid ansikt-til-ansikt med pasienter².
• Administrativ effektivisering: KI håndterer rutinemessige, tidkrevende oppgaver som timeplanlegging, bemanningsplanlegging og prioritering av pasientforespørsler.
• Forbedret diagnostikk: Beslutningsstøtteverktøy kan flagge høyrisikofaktorer tidlig og hjelpe til med differensialdiagnoser.
• Forbedret pasienttilgang: Chatboter og symptomsjekkere hjelper pasienter med å prioritere sine egne helseproblemer og forstå grunnleggende egenomsorg, noe som letter presset på klinikerne.

Ulemper med KI:

• Personvern- og sikkerhetsbekymringer: Håndtering av sensitive pasientdata ved hjelp av KI introduserer risikoer hvis tredjepartsmodeller brukes til å trene eksterne algoritmer uten strengt regulatorisk samtykke.
• Algoritmisk skjevhet: Hvis treningsdatasett mangler mangfold, kan KI-verktøy underprestere for spesifikke demografiske grupper, noe som fører til ulik eller diskriminerende helsetjenester.
• Feilinformasjon: KI-systemer kan på en troverdig måte fabrikkere feil medisinsk informasjon eller gå glipp av viktige, kontekstavhengige kliniske data.
• Klinisk ansvar: Juridiske rammeverk er ofte tvetydige angående hvem som er ansvarlig (fastlegen eller KI-utvikleren) når en KI-assistert feildiagnose oppstår.
• Overdreven avhengighet: Å stole for mye på KI for sammendrag og resonnement kan redusere legens kritiske tenkning og kliniske dømmekraft.

Uansett hvor effektive KI-verktøyene er, så ligger det kliniske ansvaret for pasientrelaterte beslutninger hos legen. Kombinert med overbelastede fastleger, kan bruk av KI blant pasienter i tillegg komplisere legens oppgaver og gjøre legen utsatt for anklager om medisinsk unnlatelse. For å forhindre dette må trinnvis klinisk behandling og delt beslutningstaking opprettholdes som kjennetegn på god allmennpraksis³. 

Også vi i Norsk Helseinformatikk har begynt å ta i bruk KI som et tilskudd til NEL. Utfordringen med KI er at du som bruker ikke har kontroll over hvilke kilder KI velger ut som svar på dine forespørsler. Vi føler oss rimelig trygge på at NEL artiklene er basert på den beste tilgjengelige dokumentasjonen. Ved å begrense KI's kildevalg til NEL-databasen, tror vi våre brukere oppnår mer troverdige responser når de bruker KI sammen med NEL.

Oppsummert: Bruken av KI i norsk allmennpraksis byr på betydelige betenkeligheter knyttet til personvern, manglende kvalitetssikring og legers juridiske ansvar. Fordi KI-verktøy ikke er godkjent som medisinsk utstyr, risikerer fastleger brudd på helsepersonelloven ved ukritisk bruk