Uvod
Pravednost je jedan od najvažnijih principa kojim se stručnjaci vode prilikom donošenja odluka za dijagnozu, prognozu ili terapiju bolesti te ima vodeću ulogu u kontekstu zdravstvene skrbi.2 Sustavi umjetne inteligencije (dalje: UI) se danas koriste u brojnim osjetljivim okruženjima pri donošenju važnih odluka, na primjer u javnoj upravi,3 pravnom sustavu4 ili zapošljavanju.5 Posljednjih godina sve se više naglašava unapređenje poštivanja etičkih i epistemoloških načela u radu sustava UI, što je uzrokovalo da sve više znanstvenika radi na razvoju sustava UI u skladu s tim načelima.6
Zbog sve veće primjene UI u zdravstvenoj skrbi, koja pokušava poboljšati kvalitetu i učinkovitost zdravstvene skrbi te odgovoriti na nedostatak liječnika i sve veći broj pacijenata, UI je sve više uključena u procese donošenja odluka. To može dovesti do bržih i boljih ishoda odlučivanja.7 Poznati su brojni primjeri primjena sustava UI koji pomažu prilikom regulacije pravovremene intervencije i prevencije nepovoljnih ishoda u jedinicama intenzivnog liječenja, što je teško postići bez njih s obzirom na ograničene ljudske sposobnosti istovremenog obavljanja više zadataka uz optimalnu učinkovitost. Takvi primjeri uključuju upotrebu algoritama i statističkih tehnika za poboljšanje sposobnosti računala da predlože bolje odluke temeljene na sposobnosti brze analize, razumijevanja i interpretacije velike količine podataka.8
Kada se sustavi UI koriste u kontekstu liječenja pacijenata bolnice, zdravstvene ustanove i istraživači moraju biti sigurni da neće nastati neočekivane društvene implikacije, poput pristranosti prema rasi, etničkoj pripadnosti i/ili osobama s invaliditetom. Nažalost, u razvoj algoritama UI uključeni su razni oblici pristranosti koji mogu značajno utjecati na pravednost pogrešnim prikazivanjima rezultata predviđanja.9
U području zdravstvene skrbi uzroci pristranosti i diskrimincije u rezultatima predviđanja UI su već istraživani s naglaskom na osiguravanje distributivne pravednosti koja osigurava jednakost u učinku i raspodjeli resursa10 te s naglaskom na posljedice nepravednih predviđanja koja utječu na dijagnostičke netočnosti za različite društvene skupine.11
Usprkos široko raširenoj primjeni u zdravstvu, pojedini sustavi UI rade na principu »crne kutije« i algoritamske neprozirnosti, što znači da ne razumijemo mehanizme rada niti kako točno UI donosi odluke.12 Razumijevanje mehanizama rada sustava UI koji izrađuju predviđanja vrlo je važno u procjeni povjerenja, posebice kada liječnici ili zdravstveno osoblje svoju odluku za daljnje medicinske postupke temelje na takvom predviđanju sustava UI ili u prilikama kada odlučuju hoće li za odluku konzultirati predviđanja sustava UI. Takvo razumijevanje pravednosti naglašava nužnost uvida u mehanizme rada sustava UI, koji se metodama objašnjive umjetne inteligencije (dalje: OUI) mogu unaprijediti putem uključivanja objašnjenja vlastitih predviđanja u sustave UI koji se tada koriste s povjerenjem za razliku od onih koji ne nude mogućnost vlastitih objašnjenja.
No, s obzirom na sve veću složenost metoda sustava UI putem kojih nastaju predviđanja, potrebno je razvijati i načine objašnjenja tih predviđanja da bi se moglo nastaviti razvijati povjerenje u rad sustava UI. Zbog toga se OUI smatra potencijalnim rješenjem za ublažavanje algoritamske neprozirnosti, na temelju ključne uloge u poboljšanju objašnjenja donošenja odluka podržanih UI-om.13 S obzirom na povezanost objašnjivosti i povjerenja, neki znanstvenici tvrde da je nužno izgrađivati OUI da bi se moglo izgrađivati povjerenje u primjenu UI.14
Cilj rada je prikazati izazove konceptualizacije pravednosti u kontekstu zdravstvene skrbi te ponuditi zadovoljavajuću definiciju pravednosti. S obzirom na primjenu sustava UI u zdravstvu, u ovom se radu ističe mogućnost nepravednih i pristranih ishoda predviđanja koji mogu nepovoljno utjecati na procese donošenja odluka. Predstavit će se moguća rješenja za ublažavanje nepravednosti i pristranosti u sustavima UI. Konačno, prikazat će sustav UI TWIX15 koji objašnjivošću osigurava pravednija predviđanja i ublažava pristranosti zbog čega bi se u budućnosti trebalo nastaviti s razvojem sličnih sustava UI u zdravstvenoj skrbi zbog mogućnosti pravednijeg donošenja odluka.
1. Izazovi konceptualizacije pravednosti u kontekstu zdravstvene skrbi
Pravednost se u literaturi ističe kao jedno od temeljnih načela etike UI,16 a posljednjih nekoliko godina se dodatno istražuje pravednost u kontekstu UI te sve više autora naglašava potrebu za unapređenjem pravednosti17 i popratnih fenomena kao što su objašnjivost,18 povjerenje,19 transparentnost20 ili donošenje odluka pomoću sustava UI.21 Izrađeni su i brojni pristupi prema intervencijama koje se temelje na definicijama i metrikama za matematički prikaz pristranosti, pravednosti i diskriminacije za razna područja, kao što su računalne znanosti22 ili kazneno pravo,23 ali im nedostaje dosljednost i sustavan pristup u konvencijama imenovanja.24 Vrijedi napomenuti i da danas postoji mnogo različitih tumačenja pravednosti, no ne postoji univerzalan alat za njezino mjerenje.25 Osim toga, važno je napomenuti da kvantitativne metode nisu jedini pristup izračunavanju i izražavanju pravednosti s obzirom na to da uzroci nepravednosti nadilaze baze podataka i matematičke izračune.
No, iako postoje i razne definicije pravednosti, većina znanstvenika smatra da pravednost zahtijeva nepristranu raspodjelu vrijednosti bez osvrtanja na pojedine karakteristike pojedinca ili njihovu situaciju koja se smatra nevažnom.26 Drugim riječima, predviđanja koja donosi sustav UI ne bi smjela proizvesti nepravedne, diskriminirajuće ili disparatne posljedice.27 Zbog toga postizanje pravednosti zahtijeva sveobuhvatno razumijevanje potencijalnih uzroka pristranosti u umjetnoj inteligenciji i razvoj strategija za ublažavanje pristranosti.28
Zbog sve veće primjene UI u brojnim područjima ljudske djelatnosti, trenutno se razvija više etičkih i pravnih smjernica za brojna područja, od kojih je zdravstvo – s obzirom na osjetljivost, složenost definicija, obveza i zahtjeva –posebno važno područje.29 Akt o UI, jedan od vodećih pravnih dokumenata u području regulacije UI, izdvaja sustave UI koji se primjenjuju u zdravstvu kao visokorizične koji podliježu strogim regulacijama koje je potrebno zadovoljiti prije negoli se takav sustav UI smije upotrebljavati u zdravstvenom kontekstu. S obzirom na to da sustavi UI mogu brzo analizirati veliku količinu podataka te identificirati obrasce i trendove, to omogućuje razvoj etičkih i pravnih smjernica utemeljenih na dokazima u stvarnom vremenu, što značajno olakšava razmjenu informacija s vodećim stručnjacima radi razvoja etičkih implikacija.30
Brojne međunarodne organizacije razvijaju okvire za regulaciju UI u specifičnim zdravstvenim situacijama, poput Američke agencije za hranu i lijekove koja izrađuje smjernice za kritičku procjenu stvarnih primjena UI u medicini, a već je objavila okvir za ulogu UI i strojnog učenja u softveru kao medicinskom uređaju.31 Također, Europska komisija je poduzela multidisciplinarne napore za jačanje povjerenja u primjenu UI,32 dok Europska agencija za lijekove regulaciju UI smatra strateškim prioritetom.33 Uloga UI u uspostavljanju smjernica je pružanje uvida i preporuka temeljenih na podatcima učinkovitijeg donošenja odluka, boljih rezultata liječenja i smanjenja troškova.
Budućnost zdravstvenih sustava visokih performansi vjerojatno će se oslanjati na sinergiju temeljenu na interakciji čovjeka i umjetne inteligencije.34 UI ima velik potencijal za razvoj i korištenje u zemljama s visokim nacionalnim bruto dohotkom u mnogim različitim područjima liječenja, uključujući radiologiju, patologiju, dermatologiju, intenzivnu njegu, oftalmologiju, kardiologiju.35 Glavnih razlog za sve veću primjenu sustava UI jest što oni omogućavaju značajnu moć predviđanja, dijagnostičku preciznost i više prilagođenih recepata za lijekove. Iako je potrebno provesti proces detaljnog potvrđivanja kliničke primjene i učinkovitosti sustava UI, poznato je da neki algoritmi danas nadmašuju ljudske stručnjake (liječnike) u otkrivanju bolesti, brzini tumačenja, procjeni rizika za ponovnu pojavnost bolesti i mortalitet i klasifikaciju rendgenskih nalaza.36 Budući da se digitalne tehnologije sve više koriste u kontekstu zdravstvene skrbi, povećava se i rizik od nanošenja štete pojedincima i društvenim skupinama. Stoga pravednost postaje jedan od ključnih principa za zdravstvenu skrb koja – u skladu s algoritamskom pravednošću – pokušava maksimalno nepristrano i objektivno pristupiti svim pacijentima.
Razni izazovi, poput terminoloških nejasnoća, pristranosti, nepravednosti, nedostatka objašnjivosti i povjerenja, čine pukotine prilikom primjene UI u zdravstvenim sustavima. Nepristran i objektivan pristup svim pacijentima trebao bi biti cilj kojeg želi doseći zdravstveno osoblje prilikom razmatranja odluka poduprtih algoritamskim odlučivanjem koje uključuje neki od sustava pravednosti.
2. Terminološka razdioba pravednosti u zdravstvenoj skrbi
S obzirom na izazov terminoloških nejasnoća, pravednost može biti višeznačan pojam koji ovisi o različitim kontekstima unutar kojih pokušavamo definirati pravednost, kao što su: pravo, društvene znanosti, STEM područja ili filozofija. Tako bi, na primjer, definicija pravednosti u kontekstu društvenih znanosti bila promatrana u svjetlu društvenih odnosa, dinamike moći, institucija i tržišta, dok bi u kontekstu filozofije definicija pravednosti počivala na ideji da »ono što je pravedno je ujedno i moralno«.37 Jedna od čestih definicija pravednosti jest kvaliteta postupanja prema ljudima na jednak način ili na način koji je ispravan ili razuman,38 a za sustav UI se kaže da je pošten ako ne diskriminira pojedinca ili grupu.39 No, usprkos tim definicijama, postoje brojni izazovi u pristupu i stavovima kada pokušavamo konceptualizirati pravednost u kontekstu zdravstvene skrbi.
Specifični izazovi terminološke razdiobe tiču se matematičkih pokušaja formulacije pravednosti i eventualnih preferencija koje sustav UI može imati za pojedini model. Matematička kvantifikacija pravednosti ima smisla budući da pravednost ima tendenciju odgovarati nekoj vrsti kriterija, kao što su jednaka ili pravedna raspodjela, ili zastupljenost pogreške za pojedini problem i/ili zadatak. Do sada se pravednost pokušala definirati brojnim matematičkim definicijama koje uključuju demografski paritet,40 disparatni učinak,41 jednakost prilika42 i kalibraciju.43 Svaka navedena matematička formulacija privlačna je na svoj način, no pokazalo se da su navedene definicije međusobno nekompatibilne te se ne mogu istovremeno zadovoljiti.44 Neki znanstvenici su bezuspješno pokušali ronaći kompromise između različitih protuslovnih formulacija pravednosti.45 No drugi autori potvrđuju da je pomirenje tih protuslovlja neizvedivo,46 zbog čega se predlaže drukčiji pristup i definicija pravednosti, ona ovisnu o specifičnom kontekstu zdravstvene skrbi. Dakle, umjesto da se zahtijeva da svi pojmovi pravednosti – makar djelomično – vrijede u isto vrijeme, smatra se da je bolji pristup određivanje najprikladnijeg pojma pravednosti za specifično zdravstvenu domenu o kojoj se nešto više govori u nastavku.
Druga vrsta terminoloških izazova tiče se specifično tehničke perspektive unutar koje se razvijaju različiti modeli pravednosti. Rijetko kada su se različite definicije i pojmovi relevantni za pravednost uzimali u obzir prije razvoja sustava UI. Čak i u situacijama kada se razmotre različite definicije ili pristupi pravednosti, čak ni tada ne postoji »pravedan« odgovor za pojedinačan sustav UI. Osim toga, u proces strojnog učenja (od razvoja skupa podataka preko razvoja algoritma i upotrebe sustava UI) uključeni su razni akteri koji mogu imati različita tumačenja i razumijevanja pravednosti, što može dodatno doprinijeti razvoju terminoloških nejasnoća.47 Također, specifičan tehnički izazov tiče se postavljanja granica, a postavi li se previše ograničenja za detekciju pravednosti sustavu UI predviđanja će imati manju preciznost.48 Uz to, posebno zanimljiv tehnički izazov formalizacije pravednosti odnosi se na neprozirnosti samog sustava UI. Novi uzrok nepravednosti može proizlaziti iz toga što korisnik sustava UI ne može razumjeti predviđanja koja su došla iz sustava UI te je zbog toga važno raditi na transparentnosti i objašnjivosti da bi se omogućilo okolnosti u kojima korisnik razumije predviđanja i u kojima je razvoj pravednosti moguć.49
Treća vrsta terminoloških prepreka tiče se pitanja zdravstvenih nejednakosti (engl. disparities) koje nastaju kao rezultat povijesnih i trenutnih socioekonomskih nejednakosti te utječu na kvalitetu zdravstvene skrbi među pojedinim skupinama pacijenata. Zdravstvene nejednakosti se pripisuju širokom rasponu uzroka rizika, uključujući indeks tjelesne mase, obrazovanje, vrstu osiguranja, genetiku. Većina ovih uzroka grupirana je u pet sljedećih domena društvenih odrednica zdravlja: ekonomska stabilnost, pristup obrazovanju i njegova kvaliteta, pristup zdravstvenoj skrbi i njezina kvaliteta, susjedstvo i izgrađeno okruženje, te kontekst društva i lokalne zajednice.50 Važno je istaknuti da se ti čimbenici pripisuju različitim zdravstvenim ishodima i nepovjerenju u zdravstveni sustav.51 Razumijevanje ovih nejednakosti može pomoći pri usmjeravanju razvoja zdravstvene skrbi i sprječavanja daljnjeg povećanja nejednakosti ili smanjenja kvalitete zdravstvene skrbi, a zbog pojave nejednakosti u zdravstvu uzrokovane sustavima UI procjena i ublažavanje štete postali su središnja motivacija za proučavanje pravednosti u strojnom učenju.52
Nejednakosti mogu nastati i u ishodima i u praksi zdravstvene skrbi zbog varijacija u prevalenciji bolesti, kvaliteti usluga i različitih uređaja koji se koriste za isti medicinski postupak u različitim regijama i bolnicama (kao što su to, na primjer, različiti uređaji za analizu krvi).53 Sustavi UI iz jedne bolnice se možda ne mogu prilagoditi sustavu UI drugih bolnica zbog posebnih metoda korištenih za prikupljanje, obradu i organiziranje podataka koji mogu imati nenamjerno kodirane pristranosti specifične za bolnicu u kojoj se podaci obrađuju.54 Osim toga, nemaju sve skupine ljudskih populacija dugu povijest prikupljanja podataka u postojećim skupovima biomedicinskih podataka.55
Radi uvećanja količine dostupnih podataka objedinjuju se skupovi podataka iz više bolnica. No, budući da različiti bolnički centri mogu imati različite količine dostupnih podataka u obuci, sustavi UI mogu akumulirati pristranosti specifične za tu bolnicu tijekom obuke. Kada se te pristranosti odraze u predviđanjima sustava UI, tada neke bolnice mogu biti izolirane zbog lošijih ishoda,56 što može povećati nejednakost među bolnicama i obeshrabriti te bolnice za implementaciju tehnologija temeljenih na sustavima UI.57
Jedno od potencijalnih rješenja za sve navedene terminološke izazove definiranja pravednosti u zdravstvenom kontekstu neki autori su pokušali razriješiti primjenom definicije distributivne pravednosti s ova tri elementa: jednak ishod, jednak učinak i jednaka raspodjela. Ova tri elementa osiguravaju jednake rezultate za sve društvene skupine, s naglaskom na jednaku preciznost, osjetljivost, specifičnost i pozitivnu prediktivnu vrijednost.58 Međutim, ovakav pristup je kritiziran jer se previše oslanja na demografski paritet i matematičko shvaćanje pravednosti, što je već prije spomenuto.
Ipak, s obzirom na to da pacijenti nisu puki biološki organizmi, već ljudska bića s općim i individualiziranim potrebama, željama, ranjivostima i vrijednostima59 važno je u kontekst pravednosti uzeti sve navedene kategorije kao i uključiti jedinstven odnos između zdravstvenog osoblja i pacijenta prožet posebnim vrijednostima i dužnostima.60 Općenito se smatra da ovaj odnos zahtijeva pristup usmjeren na pacijenta koji poštuje autonomiju pacijenta i promiče informirani pristanak. Stoga se sljedeća definicija pravednosti može prihvatiti kao relevantna za kontekst zdravstva: pravednost u zdravstvenoj skrbi je višedimenzionalan koncept koji uključuje pravednu raspodjelu resursa, mogućnosti i ishode među različitim populacijama pacijenata.61 U definiciju pravednosti trebali bi biti integrirani postojeći zakonski propisi svake zemlje i koncept društvene pravednosti da bi se izbjegla uska tehnička rješenja.62
3. (Ne)pristrana umjetna inteligencija u zdravstvenoj skrbi
U javnom prostoru se može čuti da se sustavi UI u procesu odlučivanja mogu koristiti kao alati za postizanje pravednosti i jednakosti zahvaljujući algoritamskoj sposobnosti prevladavanja kognitivnih ograničenja i društvenih predrasuda proizašlih iz ljudske prirode, što omogućuje objektivnije i pravednije odluke.63 No, brojni primjeri pokazuju da to zapravo nije uvijek slučaj. Slike, tekst i numeričke vrijednosti kao ulazni podaci na temelju kojih se sustavi UI razvijaju bogati su pristranostima. Do sada je dokazano kako u situacijama kada u donošenju odluka sudjeluje UI, takve odluke mogu biti pristrane i diskriminirajuće64 što u zdravstvu može biti posebno izazovno s obzirom na to da je riječ o situacijama visokog rizika i o osjetljivim podatcima.65 Neki autori tvrde da je nemoguće kreirati sustav UI bez pristranosti te je potrebno voditi računa o pristranostima uključenima u sustave UI.66 Neki autori tvrde da je problem pristranosti kompleksan društveni problem kojeg nije lako tehnički riješiti, niti imamo dovoljno jasno razumijevanje o radu specifičnih sustava UI kao što su veliki jezični modeli.67
Sustavi UI mogu razviti pristranost, na primjer, pri oslanjanju na povijesne podatke o uhićenjima,68 kao što je to bilo na primjeru prediktivnog sustava UI za ponavljanje kaznenih djela pod nazivom COMPAS. Iako se očekivalo da će predviđanja biti pravedna i nepristrana, to se nije dogodilo. COMPAS je bio pristran i davao lažno pozitivna predviđanja za optuženike crne boje kože. Lažno ih je označavao kao buduće počinitelje kaznenih djela gotovo dvostruko češće nego bijele optuženike. Slučaj je postao poznat nakon članka ProPublice.69
Slični primjeri nepravednih i pristranih predviđanja događali su se u kliničkim okruženjima gdje su istraživači ustanovili slično – da sustavi UI stvaraju pristrana i diskriminirajuća predviđanja na temelju rasne, etničke ili nacionalne pripadnosti ili drugih nejednakosti. Posljedice pristranosti i diskriminacije prilikom predviđanja od strane sustava UI su se do sada proučavale u zdravstvenoj skrbi u različitim domenama poput dijagnosticiranja, izbora liječenja i učinkovitosti zdravstvenog sustava70 ili obrade prirodnog jezika i dubokog učenja.71 Također, medicinska oprema može stvarati netočne podatke kao što se to dogodilo u primjerima pogrešnog očitanja krvnog tlaka72 ili pogrešnom očitanju zasićenosti kisika pulsnog oksimetra kod pacijenta s crnom bojom kože.73 Razina zasićenosti kisikom u krvi mjeri se pulsnim oksimetrom slanjem infracrvenog svjetla kroz kožu. Boja pacijentove kože utječe na mjerenja pulsnog oksimetra jer uređaj krivo procjenjuje razine zasićenja kisikom kod pacijenata koji nisu bijele rase. Na temelju toga mjerenja zaključeno je da pacijenti crne rase imaju tri puta veću vjerojatnost da obole od akutne hipoksemije, a to pulsni oksimetar kod pacijenata crne boje kože ne otkriva na isti način kao kod pacijenata bijele boje kože. Pristranost u zdravstvenoj skrbi mogu započeti kliničkim mjerenjima koji uzrokuju pogrešne medicinske odluke za skupine pacijenata i mogu se dalje krivo usmjeriti primjenom predviđanja sustava UI u zdravstvu.74
Uz to, sustavi UI koriste se i u jedinicama intenzivnog liječenja te prilikom praćenja pacijenata preporučuje brzu medicinsku intervenciju za visokorizične pacijente. Međutim, ako je baza podataka testirana samo na jednoj skupini ljudi, predviđanja sustava UI će biti neprecizna i netočna za skupine ljudi na kojima nije testirana. To dovodi do lažno pozitivnih predviđanja, uzrokujući da liječnici ignoriraju znakove upozorenja i smanje povjerenje u predviđanja sustava UI što u sklopu jedinice intenzivnog liječenja može uzrokovati potencijalno i smrtonosne zdravstvene ishode.75
U području kirurgije autori Kiyaseeh, Laca i ostali su razvili sustav UI pod nazivom SAIS, za procjenu vještina kirurga, koji je pokazao pristranost prilikom procjene vještine kirurga u različitim kirurškim zahvatima.76 Iako je SAIS mogao i pouzdano procijeniti kirurški učinak, događale su se i situacije u kojima je pristranošću došlo do značajnih pogrešaka u predviđanju. SAIS sustav je pogrešno smanjio stupanj vještine kirurške izvedbe predviđajući da će vještina kirurga biti niže kvalitete nego što je zapravo bila. S druge strane, SAIS je i pogrešno unaprijedio kvalitetu kirurške izvedbe predviđajući da će neka kirurška vještina biti kvalitetnija nego što je bila.77
Poznato je i da su u razvoj i primjenu sustava UI uključene različite pristranosti koje mogu negativno utjecati na ispravnost predviđanja pogrešnim iskrivljavanjem rezultata sustava UI.78 Važno je imati na umu da iskrivljavanje rezultata može nastati u bilo kojem trenutku obrade ili čuvanja podataka te se zbog toga nije moguće slažiti s Groteom i Keelingom da je jedino važno voditi računa o pravednosti konačnih odluka,79 nego je važno imati na umu sve ishode predviđanja.
Istraživanja iz područja algoritamske pravednosti naglašavaju da nesavršeni podaci mogu odvesti na krivi put, ali i da sami sustavi UI nisu vrijednosno neutralni. Razlozi za nepravednost mogu biti mnogi i najčešće mogu nastati iz dva glavna izvora podataka koji se koriste za obuku algoritma (pristranost podataka) i inherentnog dizajna ili mehanizama učenja samog algoritma (algoritamska pristranost).80 No česti su i ostali izvori nepravednosti poput pristranosti koja proizlazi iz povijesnih činjenica, pristranost koja proizlazi iz algoritamskih ciljeva, neuravnotežen skup podataka, nepotpuni podaci ili neprozirnost algoritma.81 U kontekstu zdravstvene skrbi mogu se pojaviti dodatne pristranosti zbog složene prirode ljudskih interakcija i procesa donošenja odluka. Neki autori navode da se u specifičnoj domeni zdravstvene skrbi pristranosti mogu svrstati u sljedeće četiri kategorije:
1) pristranosti u sustavima UI ovisne o dizajnu modela (pristranosti oznake i pristranosti skupine),
2) pristranosti u sustavima UI ovisne o podacima o obuci (pristranost manjine, pristranost podataka koji nedostaju, pristranost informativnosti),
3) pristranosti u sustavima UI uzrokovane interakcijama sustava UI s liječnicima (pristranost automatizacije, petlje povratnih informacija),
4) pristranosti u sustavima UI uzrokovane interakcijama sustava UI s pacijentima (pristranost prema privilegijama, informirano nepovjerenje).82
Navedeni slučajevi pristranosti i nepravednosti postavljaju središnje pitanje o upotrebi sustava UI u zdravstvu: Kako liječnici mogu biti sigurni da donose pravednu i nepristranu odluku uz pomoć sustava UI? I na što bismo točno trebali usmjeriti svoju pažnju?
Da bi se smanjio utjecaj pristranosti, moguće je koristiti različite oblike strategija za otkrivanje i ublažavanje nepravednosti i pristranosti koje su ključne za poboljšanje ishoda zdravstvene skrbi. Jedan od dostupnih alata koji može pomoći u smanjenju utjecaja pristranosti je i OUI koji je već prije spomenut.
4. Prema ostvarenju pravednosti u zdravstvenoj skrbi
Trenutno postoje razni alati koji znanstvenicima i istraživačima pokušavaju pomoći u identifikaciji podataka i ublažavanju nepravednosti i pristranosti u sustavima UI kao što su »AI Fairness 360 Toolkit« u vlasništvu tvrtke IBM, »What-If Tool« u vlasništvu tvrtke Google, »fairlean.py« u vlasništvu tvrtke Microsoft i »Fairness Flow« u vlasništvu tvrtke Facebook.83 Ovi alati pružaju tehnička rješenja, metriku i algoritme za poboljšanje preciznosti i pouzdanosti sustava UI.
No sva napredna tehnička rješenja koja pokušavaju bez mogućnosti objašnjenja riješiti kompleksne etičko-epistemološke izazove ne nude odgovore na pitanja o profesionalnoj odgovornosti. Profesionalna odgovornost podrazumijeva da je opravdano tražiti od zdravstvenog djelatnika da objasni svoje postupke te jasno artikulira i obrazloži odluke koje je donio. Pružanje takvog objašnjenja stvara povjerenje u proces koji je doveo do odluke i povjerenje da je zdravstveni radnik zadužen za proces postupio pravedno i razumno.84 Istina je, kao što neki autori ističu, da nedostatak objašnjivosti u zdravstvu nije neuobičajen, a ponekad je gotovo nemoguće precizno rekonstruirati objašnjenje na kojem se temelji klinička prosudba zbog nedostatka znanja o uzročnim mehanizmima kroz koje intervencije djeluju.85 Drugi autori tvrde da pacijenti rutinski oslanjaju na farmakološke tretmane za koje ne znaju kako djeluju, ali znaju da djeluju. U tim slučajevima objašnjivost može biti korisna, ali znanstvenici se ne slažu u tomu da bi načelo objašnjivosti trebalo biti uvijek potpuno ispunjeno.86
Međutim, objašnjivost je još uvijek posebno važna u situacijama koje zahtijevaju informirani pristanak, a nedavna pravna regulacija Akta o umjetnoj inteligenciji dodatno je stavila naglasak na važnost objašnjivosti, transparentnosti i ljudskog nadzora.87 Štoviše, neki autori smatraju da sustavi UI bez objašnjivog sustava potpore kliničkom odlučivanju ugrožavaju temeljne etičke vrijednosti u medicini (uključujući tradicionalna bioetička načela autonomije, dobročinstva, neškodljivosti i pravde) i mogu čak uzrokovati štetne posljedice za pojedince, kao i za javno zdravlje.88
Brojni autori navode da sustavima UI često nedostaje transparentnost, što otežava objašnjenje njihovih predviđanja i narušava povjerenje.89 Taj nedostatak transparentnosti može uzrokovati lošije ishode za skupine koje nisu dovoljno zastupljene, kao što je prije navedeno.90 Uključivanjem transparentnosti u više točaka razvoja, testiranja i faza implementacije primjene sustava UI u zdravstvu91 može se napraviti važan korak za više pravednosti i smanjenje utjecaja pristranosti. Ako se proces primjene UI učini transparentnijim, bit će lakše prepoznati i ukloniti pristranost. Koncepti pravednosti i transparentnosti uvelike ovise o tome kako se obrađuju i analiziraju podatci, kako se koristi UI i što se uključuje u dizajn samog procesa. Transparentnost je jedno od načela o kojem se najviše govori u raspravi o etici UI i postaje jedna od značajki koja se može definirati kao »potraga za izravnim razumijevanjem mehanizma po kojem model funkcionira«.92 Transparentnost i objašnjivost sustava UI ključni su za razvoj koncepta povjerenja. Od iznimne je važnosti raditi na pravednoj primjeni UI-e u zdravstvu da bi liječnici i pacijenti mogli vratiti povjerenje u primjenu UI u zdravstvu.
Objašnjivost u zdravstvenoj skrbi je istraživana u brojnim radovima, a detaljno su obrađene i neke tehničke ograničenosti OUI93 kao i u zdravstvenoj skrbi.94 Iako se o objašnjivosti može široko raspravljati, važno je napomenuti da je nedostatak objašnjivosti izrazito važan za pravednost s obzirom na to da je bez objašnjivosti teško utvrditi je li sustav UI uzeo u obzir etički relevantne varijable. Izostanak objašnjivosti ugrožava odgovornost u slučaju etičkih pristranosti ili negativnih posljedica za primatelje, smanjuje povjerenje u sustav UI i potencijalno ugrožava javnu podršku njezinoj primjeni u zdravstvu.95 Mnogi autori naglašavaju da je za razvoj povjerenja u sustave UI potrebna objašnjivost, primjerice: »Da bi ljudi vjerovali metodama crne kutije, potrebna nam je objašnjivost…«;96 »Potreba za objašnjivom umjetnom inteligencijom motivirana je uglavnom (...) potrebom za povjerenjem…«;97 »postoji potreba za objašnjenjem (...) da bi korisnici i donositelji odluka mogli razviti odgovarajuće povjerenje«;98 »Osim toga, objašnjivost modela preduvjet je za izgradnju povjerenja i usvajanje sustava umjetne inteligencije.«99
Objašnjivost ima ključnu ulogu u definiranju odgovornosti za način na koji sustav UI-e funkcionira,100 ali može biti i ključna u definiranju moralne odgovornosti koja je važna u situacijama kada nedostatak objašnjivosti može otežati definiciju moralne odgovornosti za donesene odluke.101 Iz perspektive etičke provjere, autori navode da je objašnjivost dobar mehanizam upravljanja informiranjem pogođenih pojedinaca o tome kako je donesena odluka temeljena na predviđanju sustava UI.102
Do sada su se brojne metode OUI pokazale korisnim za ublažavanje i objašnjenje nepravednosti u situacijama predviđanja recidiva raka prostate i pomoću kojih su se uspješno razjasnili fenotipovi specifične za populacije afroameričkih pacijenata.103 Takvi rezultati imaju višestruke pozitivne efekte na razvoj povjerenja jer objašnjenja pružaju koherentniju i djelotvorniju kliničku interpretaciju zdravstvenom djelatniku ili pacijentu.104 Autori poput Fahmya i Csecsa se slažu da OUI ima značajan znanstveni potencijal jer može povećati povjerenje pacijenata, poboljšati komunikaciju i poboljšati sustave UI.105 Ovaj pristup može demistificirati odluke UI, potičući bolje rezultate liječenja i poboljšavajući zajedničko donošenje odluka.106 Također omogućuje personalizirane planove njege, značajno poboljšanje u odnosu na tradicionalne sustave UI.107
Autori Kiyaseeh, Laca i ostali prije spomenuti razvili su »training with explanations« (TWIX) kao dodatnu aplikaciju SAIS sustava, radi ublažavanje pristranosti i razvoja pravednih objašnjenja uspoređujući ih s objašnjenjima ljudskih stručnjaka. Iako je SAIS sustav pružao vizualno objašnjenje za svoju procjenu vještina, objašnjavajući zašto je neka procjena vještina napravljena,108 TWIX je dodatno unaprijeđen. TWIX može predvidjeti važnost video isječaka koji se koriste za procjenu kirurške vještine, rješavajući pristranost uzrokovanu neprovjerljivim video prikazima.109 TWIX pruža kirurzima korisne povratne informacije pregledavanjem video zapisa kirurga i procjenom njihove razine vještina. Osim toga, TWIX u nekim slučajevima drastično ublažava pristranost objašnjenja koju pokazuje SAIS sustav. To je vidljivo iz testiranja poboljšanja putem testiranja »area under the precision recall curve« (AUPRC)110 na temelju kojeg je TWIX pokazao bolje rezultate i unaprijedio pravednost putem objašnjenja. TWIX, kao poboljšana izvedba sustava UI, potencijal je za buduća poboljšanja sustava UI koju se predlažem za daljnje usavršavanje da bi se u budućnosti moglo razvijati efikasne strategije za ublažavanje pristranosti i razvoj objašnjivosti.
Zbog toga se smatra da je daljnji razvoj OUI ključan za razvoj povjerenja u primjenu sustava UI, osobito u zdravstvenom sektoru. Transparentnost i objašnjivost sustava omogućuju bolje razumijevanje mehanizama donošenja odluka, što je temelj za etičku i profesionalnu odgovornost. Ali OUI ne samo da pomaže u smanjenju pristranosti i nepravednosti u sustavima UI, već omogućuje zdravstvenim djelatnicima i pacijentima bolje razumijevanje i povjerenje u odluke koje UI donosi. Integracija objašnjivosti u dizajn sustava UI doprinosi pravednosti, omogućuje personaliziranu skrb i jača zajedničko donošenje odluka. Na taj način, OUI postaje ne samo tehnički već i etički alat koji osigurava bolje zdravstvene ishode i dugoročno povjerenje u tehnologiju.
Zaključak
Izazovi pristranosti i nepravednosti nastalih korištenjem sustava UI u zdravstvu mogu biti ublaženi metodama OUI. Sustavi UI mogu biti pristrani zbog povijesnih podataka ili dizajna modela, što može dovesti do nepravednih i netočnih predviđanja, posebno za društvene skupine određene rasnom, nacionalnom ili etničkom pripadnošću. U zdravstvu to može utjecati na dijagnosticiranje, liječenje i medicinske intervencije, a posljedice mogu biti životno ugrožavajuće. Pristranost može nastati iz više izvora, a ključ za rješenje ovih problema je u objašnjivosti i transparentnosti sustava UI. Objašnjivost omogućava zdravstvenim djelatnicima i pacijentima bolje razumijevanje odluka donesenih od strane sustava UI, čime se povećava povjerenje i smanjuje rizik od donošenja pristranih i diskriminatornih odluka. Osim toga, OUI pomaže u razvoju povjerenja te pomaže u prepoznavanju i ublažavanju pristranosti.
Predlažući razvoj sustava UI kao što je TWIX, koji poboljšava povjerenje i ublažava pristranosti pružanjem objašnjenja, možemo pridonijeti razvoju sustava UI koji su pouzdani i etični. Primjena sustava poput TWIX-a pokazuje da tehnička rješenja mogu značajno smanjiti pristranost omogućavajući objašnjiva predviđanja, što pozitivno utječe na kliničke ishode i povjerenje u tehnologiju.
Daljnjim razvojem sustava OUI putem objašnjivih predviđanja omogućava se i pretpostavka informiranog pristanka, čime OUI nije samo tehničko rješenje, već i etički okvir za primjenu UI u zdravstvu, čineći je pravedenijom, pouzdanijom i učinkovitijom.
Luka Poslon111
Enhancing Trust by Ensuring Fairness in Medical AI