MIT istraživanje: AI slike gube vezu sa pojedinačnim podacima za obuku
Istraživači MIT laboratorije CSAIL pokazali su da se kod difuzionih modela, obučenih na velikim skupovima podataka, generisana slika često ne može pripisati pojedinačnom primeru iz obuke. Tim je testirao 24 ansambla na skupovima od 256 do više od 160.000 slika, uključujući CIFAR-10, CelebA, MetFaces i ArtBench.
Rad, objavljen u časopisu Nature Communications, opisuje pojavu nazvanu opadanje atribucije. Kako raste količina podataka, uklanjanje jedne slike, svih radova jednog umetnika ili svih fotografija jedne osobe često ne menja primetno generisani rezultat.
Egzaktno brisanje bez ponovne obuke
Provera takve tvrdnje obično bi zahtevala da se model iznova obuči nakon uklanjanja svakog pojedinačnog primera. Kod miliona zapisa to je računski nepraktično, pa su raniji pristupi uglavnom procenjivali uticaj, umesto da ga zaista uklone.
MIT tim je zato napravio arhitekturu „difuzionog ansambla“. Ona se ne oslanja na jedan monolitni model, već na više manjih komponenti, od kojih je svaka obučena na drugom delu skupa podataka. Kada treba proveriti ulogu određene slike, isključuju se komponente koje su je koristile tokom obuke. Time nastaje kontrafaktualni model bez aproksimacije i bez ponovne obuke.
Ansambli su poređeni sa 24 konvencionalna difuziona modela obučenih na istim podacima. Standardne mere kvaliteta pokazale su približno uporediv izgled generisanih slika. Istraživači navode i da su se ansambli, uz više podataka, bolje održavali u odnosu na modele sa jednom celinom.
Šta pokazuje kontrafaktualni univerzum
Za svaku generisanu sliku tim je posmatrao alternativne verzije dobijene uklanjanjem različitih delova obuke. Najveću razliku između početnog rezultata i tih alternativa nazvali su kontrafaktualnim radijusom: on predstavlja najveći mogući doprinos jednog primera.
Sa rastom skupa podataka taj radijus se smanjivao po zakonu inverzne snage. Obrazac se zadržao kada su razlike merene piksel po piksel i kada je posmatrana semantička sličnost, uz statističku značajnost u oba slučaja. Tim je nalaz dodatno proverio ponovnom obukom 1.282 odvojena modela na malom obimu, kao i različitim metrikama, fiksiranim brojem epoha i modelima sa tekstualnim upitima ili uslovljenim klasama.
Posledice za prava, privatnost i upravljanje rizikom
Nalaz otvara pitanja o tome kada se izlaz može smatrati izvedenim delom i kako se procenjuju navodi o kopiranju. David Gifford ističe da metod omogućava izlaze za koje se može garantovati da nisu pripisivi pojedinačnim osobama ili stavkama iz skupa za obuku. James Grimmelmann sa Cornell Law School i Cornell Tech upozorava da će tehnolozi i sudovi možda morati da koriste druge metode za procenu kopiranja.
Istraživanje se odnosi na difuzione modele, koji se koriste za audiovizuelni sadržaj, modelovanje proteinskih struktura i otkrivanje terapija. Da li se isti efekat javlja kod velikih jezičkih modela, ostaje otvoreno pitanje. Za organizacije je praktičan zaključak da poreklo AI izlaza ne treba procenjivati samo traženjem jednog „odgovornog“ zapisa: potrebni su odvojeni postupci za dokazivanje kopiranja, ugovorno upravljanje pravima i tehničku proveru modela.