MIT razvio objašnjiv model za procenu rizika od suicida iz teksta
Istraživači sa MIT-ovog McGovern instituta za istraživanje mozga razvili su alat za obradu jezika koji iz tekstualnih razgovora sa kriznim savetnicima procenjuje rizik od suicida. Tim je analizirao približno 16.000 deidentifikovanih razgovora organizacije Crisis Text Line i modelom razlikovao tri nivoa: odsustvo suicidalnosti, suicidalne misli bez neposrednog rizika i neposredni rizik, koji podrazumeva plan ili nameru da osoba umre u narednih 48 sati.
Rad Daniela Lowa, Satrea Ghosha i saradnika objavljen je u časopisu Journal of Psychopathology and Clinical Science. Autori navode da alat tačno predviđa težinu rizika u novim razgovorima koje prethodno nije video, ali ističu da je za kliničku primenu potrebna temeljna dodatna validacija.
Leksikon povezuje jezik sa 49 faktora rizika
Osnova sistema je posebno izrađen leksikon povezan sa 49 poznatih faktora rizika. Istraživači su uz pomoć veštačke inteligencije sastavili početnu listu izraza, a zatim su je ručno pregledali i doradili. Konačni leksikon sadrži oko 60 reči ili fraza za svaki faktor, pri čemu su njihovu relevantnost potvrdili stručni kliničari.
Model pretražuje razgovore i svakoj kategoriji dodeljuje težinu prema doprinosu procenjenom riziku. Tako pominjanje sredstava za samoubistvo, poput izraza koji se odnose na sečenje ili tablete, ima veću težinu od izraza beznađa. Aktivne suicidalne misli i samopovređivanje takođe su bili snažni pokazatelji neposrednog rizika, dok su anksioznost, posttraumatski stresni poremećaj i emocionalni bol bili posredni pokazatelji.
Objašnjivost i privatnost ostaju ključni
Rezultati potvrđuju da depresija jeste poznat faktor povezan sa suicidalnim mislima, ali da su u grupi sa najvećim rizikom češće bili izrazi o sredstvima za samoubistvo i upotrebi supstanci nego navodi depresivnog raspoloženja ili umora. Takvo razlikovanje može pomoći da se u kriznom razgovoru prioritet daju signalima koji su najbliže povezani sa neposrednom opasnošću.
Za razliku od velikih jezičkih modela, prediktivni deo rešenja je lakši model koji može da radi na ličnom računaru. To smanjuje računske zahteve i pitanja privatnosti, a korisniku pruža uvid u osnov procene: reči od posebne važnosti mogu biti označene. Istraživači ipak navode ograničenje leksikona: on ne tumači kontekst izraza i može propustiti slične formulacije koje nisu eksplicitno uvrštene.
AI je podrška, a ne zamena za stručnu procenu
Tim zato kombinuje leksikon sa drugim pristupima zasnovanim na velikim jezičkim modelima, uz zadržavanje leksikona radi sigurnog označavanja određenih termina i zaštite podataka. Leksikon i softverski paket za njegovu izradu dostupni su istraživačima i mogu se koristiti za razvoj sličnih skupova pojmova za druga stanja mentalnog zdravlja.
Za organizacije koje razvijaju ili uvode AI u osetljive kanale podrške, najvažniji zaključak je da model mora biti proverljiv, razumljiv stručnjaku i pod stalnim ljudskim nadzorom. Automatizovana procena može ubrzati usmeravanje pažnje, ali ne može zameniti odgovornost i odluku kvalifikovanog čoveka.