Anthropic razvija FlashProve za dokazivanje porekla AI odgovora
Anthropic je predstavio FlashProve, sistem otvorenog koda za kriptografsku proveru da je konkretan AI izlaz generisao određeni model. Projekat se zasniva na konceptu „dokazive inferencije“, a Anthropic je uz najavu objavio tehničku specifikaciju i radni kod pojedinih komponenti na GitHubu. Istraživanje je u toku i kompanija nema plan da sistem trenutno uvede u sopstvene ili druge AI laboratorije.
Kriptografski dokaz umesto poverenja u oznaku modela
FlashProve bi trebalo da korisniku pruži matematičku garanciju o poreklu odgovora. Ideja je slična kriptografskom potpisu e-pošte: primalac može da proveri da li poruka zaista potiče od navedenog pošiljaoca. U ovom slučaju, proverava se tvrdnja da je izlaz potekao baš od modela za koji se predstavlja.
Takva provera treba da bude otporna i kada bi sam operater pokušao da jedan model predstavi kao drugi. Anthropic navodi dva poslovna rizika: kompanija bi mogla neprimetno da zameni obećani model jeftinijim radi smanjenja troškova ili skupljim kako bi njime uvećala utisak o rezultatima.
Za rad sistema laboratorije bi uz svaki objavljeni model morale da objave njegov „otisak“. Taj otisak kasnije može da se uporedi s određenim izlazom i kriptografski proveri. Pri tome ne otkriva težine modela, odnosno interne numeričke vrednosti koje određuju njegovo ponašanje i koje proizvođači zatvorenih modela čuvaju kao poverljive.
Provera tvrdnji o primeni naprednih modela
Ovakav mehanizam mogao bi da podrži i nezavisne tvrdnje da je određeni zadatak obavio konkretan napredni model. Anthropic kao primere navodi proveru softverske biblioteke na ranjivosti uz pomoć modela za sajber-bezbednost i procenu poslovnog plana odgovarajućim modelom.
Širi kontekst daje koji pokazuje da tržište AI modela istovremeno razvija otvorene i zatvorene pristupe koji pokazuje da tržište AI modela istovremeno razvija otvorene i zatvorene pristupe, pa transparentnost porekla izlaza može postati zaseban sloj poverenja.
Važno je i to što je provera zamišljena kao lagana operacija koja može da se izvrši na lokalnom uređaju. Objavljeni kod je dostupan pod licencom otvorenog koda, a Anthropic ga deli kao međukorak koji drugi istraživači mogu da pregledaju i unapređuju.
Poslovni zaključak
Organizacije koje AI odgovore koriste kao dokaz izvršenog posla treba da razlikuju kvalitet izlaza od proverljivog identiteta modela. FlashProve još nije proizvod za primenu, ali jasno postavlja pitanje koje će ugovori, kontrole i revizije AI procesa morati da rešavaju: može li se dokazati koji je model zaista izvršio zadatak.