Publicerad av Vem är ansvarig när AI-misstag inom sjukvården orsakar olyckor, skador eller värre? Beroende på situationen kan det vara AI-utvecklaren, vårdpersonalen eller till och med patienten. Ansvarsfrågan blir alltmer komplex och allvarlig i takt med att AI blir allt vanligare inom vården.
Vem är ansvarig för AI som går fel och hur kan olyckor förebyggas?
Risken för AI-misstag inom sjukvården
Det finns många fantastiska fördelar med AI inom sjukvården, från ökad precision och noggrannhet till snabbare återhämtningstider. AI hjälper läkare att ställa diagnoser, genomföra operationer och ge bästa möjliga vård till sina patienter. Tyvärr är AI-misstag alltid en möjlighet.
Det finns en rad olika scenarier där AI kan gå fel inom vården. Läkare och patienter kan använda AI som ett rent programvarubaserat verktyg för beslutsfattande, eller så kan AI vara hjärnan i fysiska enheter som robotar. Båda kategorierna har sina risker.
Vad händer till exempel om en AI-driven operationsrobot inte fungerar som den ska under ett ingrepp? Det kan orsaka allvarliga skador eller till och med döda patienten. På samma sätt, vad händer om en algoritm för läkemedelsdiagnos rekommenderar fel medicin till en patient och denne drabbas av en negativ biverkning?
Även om medicinen inte skadar patienten kan en feldiagnos fördröja korrekt behandling.
Orsaken till AI-misstag som dessa ligger i själva AI-modellernas natur. De flesta AI använder idag “black box”-logik, vilket innebär att ingen kan se hur algoritmen fattar beslut. Black box AI saknar transparens, vilket leder till risker som logisk partiskhet, diskriminering och felaktiga resultat. Tyvärr är det svårt att upptäcka dessa riskfaktorer förrän de redan har orsakat problem.
AI som går fel: Vem bär skulden?
Vad händer om en olycka inträffar i samband med en AI-driven medicinsk procedur? Möjligheten att AI går fel kommer alltid att finnas i korten till en viss grad. Om någon blir skadad eller värre, är AI:n då skyldig? Inte nödvändigtvis.
När AI-utvecklaren är skyldig
Det är viktigt att komma ihåg att AI inte är något annat än ett datorprogram. Det är ett mycket avancerat datorprogram, men det är fortfarande kod, precis som vilken annan programvara som helst. Eftersom AI inte är kännande eller självständigt som en människa kan det inte hållas ansvarigt för olyckor. En AI kan inte gå till domstol eller dömas till fängelse.
AI-misstag inom sjukvården skulle sannolikt vara AI-utvecklarens ansvar eller ansvaret för den medicinska personal som övervakar proceduren. Vilken part som bär skulden för en olycka kan variera från fall till fall.
Läs Också: Nackdelar Med ChatGPT
Till exempel skulle utvecklaren sannolikt vara skyldig om data bias orsakade en AI att ge orättvisa, felaktiga eller diskriminerande beslut eller behandling. Utvecklaren ansvarar för att AI:n fungerar som utlovat och ger alla patienter bästa möjliga behandling. Om AI:n inte fungerar på grund av oaktsamhet, förbiseende eller fel från utvecklarens sida är läkaren inte ansvarig.
När läkaren bär skulden
Det är dock fortfarande möjligt att läkaren eller till och med patienten kan vara ansvarig för att AI har gått fel. Till exempel kan utvecklaren göra allt rätt, ge läkaren noggranna instruktioner och beskriva alla möjliga risker. När det är dags för ingreppet kan läkaren vara distraherad, trött, glömsk eller helt enkelt försumlig.
Undersökningar visar att över 40 % av läkarna upplever utbrändhet på jobbet, vilket kan leda till ouppmärksamhet, långsamma reflexer och dåligt minne. Om läkaren inte tar hand om sina egna fysiska och psykiska behov och hans eller hennes tillstånd orsakar en olycka, är det läkarens fel.
Beroende på omständigheterna kan läkarens arbetsgivare i slutändan få skulden för AI-misstag inom sjukvården. Vad händer till exempel om en chef på ett sjukhus hotar att neka en läkare befordran om de inte går med på att arbeta övertid? Detta tvingar dem att överanstränga sig, vilket leder till utbrändhet. Läkarens arbetsgivare skulle sannolikt hållas ansvarig i en unik situation som denna.
När patienten bär skulden
Men vad händer om både AI-utvecklaren och läkaren gör allt rätt? När patienten självständigt använder ett AI-verktyg kan en olycka vara deras fel. Att AI går fel beror inte alltid på ett tekniskt fel. Det kan också vara resultatet av dålig eller felaktig användning.
Till exempel kanske en läkare noggrant förklarar ett AI-verktyg för sin patient, men patienten struntar i säkerhetsanvisningarna eller matar in felaktiga uppgifter. Om denna slarviga eller felaktiga användning leder till en olycka är det patientens fel. I det här fallet var patienten ansvarig för att använda AI-verktyget korrekt eller lämna korrekta uppgifter, men underlät att göra det.
Läs även: AI inom Sjukvården
Även om patienterna känner till sina medicinska behov kanske de av olika skäl inte följer läkarens instruktioner. Till exempel uppger 24% av amerikanerna som tar receptbelagda läkemedel att de har svårt att betala för sina mediciner. En patient kanske hoppar över medicineringen eller ljuger för en AI om att han eller hon tar en medicin eftersom han eller hon skäms över att inte kunna betala för sitt recept.
Om patientens felaktiga användning berodde på bristande vägledning från läkaren eller AI-utvecklaren kan skulden ligga någon annanstans. I slutändan beror det på var olyckan eller felet inträffade.
Regler och potentiella lösningar
Finns det något sätt att förhindra AI-misstag inom sjukvården? Även om ingen medicinsk procedur är helt riskfri finns det sätt att minimera sannolikheten för negativa resultat.
Regler för användning av AI inom sjukvården kan skydda patienter från AI-drivna verktyg och procedurer med hög risk. FDA har redan regelverk för medicintekniska AI-produkter som beskriver test- och säkerhetskrav samt granskningsprocessen. Ledande medicinska tillsynsorganisationer kan också komma att reglera användningen av patientdata med AI-algoritmer under de kommande åren.
Förutom strikta, rimliga och grundliga regler bör utvecklare vidta åtgärder för att förhindra AI-scenarier som går fel. Förklarbar AI – även känd som white box AI – kan lösa problem med transparens och data bias. Förklarbara AI-modeller är nya algoritmer som gör det möjligt för utvecklare och användare att få tillgång till modellens logik.
När AI-utvecklare, läkare och patienter kan se hur en AI kommer fram till sina slutsatser är det mycket lättare att identifiera partiskhet i data. Läkare kan också snabbare upptäcka felaktigheter i fakta eller information som saknas. Genom att använda förklarbar AI i stället för black box AI kan utvecklare och vårdgivare öka trovärdigheten och effektiviteten hos medicinsk AI.
Säker och effektiv AI för sjukvården
Artificiell intelligens kan göra fantastiska saker inom det medicinska området och potentiellt till och med rädda liv. Det kommer alltid att finnas en viss osäkerhet förknippad med AI, men utvecklare och sjukvårdsorganisationer kan vidta åtgärder för att minimera dessa risker. När AI-misstag inom sjukvården inträffar kommer juridiska rådgivare sannolikt att fastställa ansvaret baserat på det grundläggande felet i olyckan.