MIT: posledice algoritamske monokulture zavise od primene
Istraživači MIT-a Brian Hedden i Manish Raghavan ispitali su upotrebu jednog algoritma za zapošljavanje u većem broju kompanija i zaključili da takva „algoritamska monokultura” ne mora nužno sistematski da isključuje kandidate. Rad „Algorithmic Monoculture and its Critics”, objavljen u časopisu Philosophical Perspectives, pokazuje da objedinjavanje više modela u ansambl algoritam u pojedinim simulacijama može biti jednako dobro ili bolje od sistema u kojem firme koriste različite algoritme.
Pod algoritamskom monokulturom podrazumeva se situacija u kojoj se odluke u određenoj oblasti oslanjaju na isti algoritam. MIT navodi kreditne ocene kompanije Fair Isaac Corporation, odnosno FICO, kao primer standardizovanog signala koji koriste banke, dok više kompanija sa liste Fortune 500 već koristi mali broj alata za pregled biografija.
Sistemsko isključenje nije jedini ishod
Jedna od čestih bojazni jeste da kandidat kojeg odbije algoritam jedne firme neće imati uspeha ni kod drugih poslodavaca koji koriste isti sistem. Autori su tu tvrdnju razmatrali kroz više modela i ocenili da sama po sebi nije presudni argument protiv svih oblika monokulture. Ukupan broj popunjenih radnih mesta ne menja se samo zato što firme koriste isti algoritam.
Naprotiv, kada se kompanije nadmeću za isti skup kandidata, to može ojačati pregovarački položaj kandidata i podstaći rast zarada. Ipak, važan je način na koji je proces postavljen. Prigovor o ograničenoj kontroli kandidata ima veću težinu ako se biografija automatski prosleđuje svim firmama bez mogućnosti da kandidat izmeni materijale i ponovo se prijavi.
Glavni rizik je manje istraživanja
Centralni nalaz rada odnosi se na homogenizaciju informacija. Različiti, nezavisni donosioci odluka mogu, u skladu sa idejom „mudrosti mase”, otkriti kvalitetnije kandidate nego jedan obrazac odlučivanja. Ako isti algoritam stalno bira osobe sa istim karakteristikama i kvalifikacijama, smanjuje se verovatnoća da će firme otkriti drugačije, potencijalno bolje alternative.
Autori matematički pokazuju da monokultura može stvarati informacione eho-komore i time ograničiti istraživanje. Kao moguće ublažavanje navode ugradnju slučajnosti u platformu. Ishod zavisi i od tačnosti modela: jedan znatno precizniji algoritam može biti bolji od niza slabijih, različitih algoritama.
Ansambl modela kao mogući pristup
MIT je kroz simulacije različitih situacija zapošljavanja ispitao ansambl algoritam, koji bi kandidatu dodeljivao ocenu na osnovu proseka više algoritama za zapošljavanje. Takav pristup je u nekim slučajevima nadmašio upotrebu više odvojenih algoritama. Autori, međutim, ističu da praktičnu izvodljivost ovakvog objedinjavanja tek treba proveriti.
Za poslovanje to znači da odluku o zajedničkom sistemu selekcije ne treba svesti na pitanje da li je jedan algoritam rasprostranjen. Potrebno je proceniti njegovu tačnost, mogućnost kandidata da dopuni prijavu, nivo istraživanja alternativnih profila i realnu mogućnost kombinovanja više modela.