Kako stručnost korisnika menja korist od AI pomoći u medicinskoj dijagnostici
Istraživači sa MIT-a, Stanford univerziteta i Columbia univerziteta ispitali su kako AI pomoć utiče na prepoznavanje kožnih bolesti kod nestručnih korisnika i lekara primarne zdravstvene zaštite. AI je generalno povećao tačnost obe grupe, ali su korisnici bez medicinskog znanja prihvatali i pogrešna objašnjenja velikog jezičkog modela, dok su kliničari češće uočavali greške.
Isto objašnjenje nema isti efekat
Učesnicima su prikazane medicinske slike uz predikciju AI modela. Istraživači su poređivali četiri pristupa: predikciju i nivo pouzdanosti bez objašnjenja, slične slike koje potkrepljuju rezultat, toplotnu mapu važnih delova slike i objašnjenje velikog jezičkog modela napisano običnim jezikom.
Nestručni učesnici procenjivali su da li je mladež kancerogen, dok su lekari imali zahtevniji zadatak postavljanja diferencijalne dijagnoze dermatološkog oboljenja. Svi oblici objašnjive veštačke inteligencije poboljšali su tačnost nestručnih korisnika, pre svega pri prepoznavanju nekancerogenih mladeža.
Međutim, poboljšanje je velikim delom poticalo od oslanjanja na model. Kada je AI grešio, takvo poverenje više je narušavalo učinak nego što ga je tačna preporuka popravljala. Efekat je bio najveći uz objašnjenja velikog jezičkog modela, a korisnici su tada bili sigurniji i u svoje pogrešne odgovore. Neodređena i opšta objašnjenja delovala su im uverljivije.
Kliničari proveravaju, početnici formiraju stav
Kliničari su pogrešnu AI pomoć podnosili znatno bolje. Najbolji rezultat ostvarili su kada su videli samo predikciju modela, bez pratećeg objašnjenja, dok su im objašnjenja velikog jezičkog modela najmanje povećala tačnost.
Razlika proizlazi iz načina upotrebe informacije. Lekar već ima početnu dijagnozu i poredi preporuku sistema sa svojim obrazovanjem i iskustvom. Nestručni korisnik može istu preporuku da upotrebi kao osnovu za formiranje mišljenja, pa ga samouvereno i prividno razložno obrazloženje lakše vodi ka pogrešnom zaključku.
Važan je i redosled prikaza. Kada su učesnici objašnjenje dobijali pre nego što samostalno procene slučaj, više su se povinovali modelu. Najviše su mu verovali upravo korisnici koji su bez AI pomoći imali najslabiji učinak.
Dizajn mora pratiti znanje korisnika
Studija je pokazala i da su AI sistemi bili bolji kada je manifestacija bolesti bila suptilna, dok su ljudi bili uspešniji kada su postojali atipični simptomi ili nepovezane karakteristike na slici. Model sa ograničenjima pravičnosti, namenjen smanjenju pristrasnosti prema tamnijim tonovima kože, značajno je povećao tačnost i umanjio dijagnostičke razlike povezane sa tonom kože.
Za organizacije koje uvode AI u osetljive procese ključna pouka nije da ponude što duže objašnjenje, već da interfejs prilagode znanju korisnika. Praktičan pristup može zahtevati da korisnik najpre zabeleži sopstvenu hipotezu, a tek potom vidi AI predlog i druge mogućnosti. Tako se prednosti modela koriste za uočavanje suptilnih pojava i popunjavanje praznina u znanju, uz manji rizik od automatizovanog prihvatanja pogrešnog odgovora.