OpenAI uvodi tekstualne vodene žigove za izlaze u EU
OpenAI je objavio fazni plan za označavanje generisanog teksta u skladu sa EU AI Act-om: u narednim nedeljama nevidljivi vodeni žig biće dodat u podobne izlaze ChatGPT-a i Codexa za korisnike u Evropskoj uniji, dok API korisnici širom sveta od danas mogu dobrovoljno da ga uključe za odabrane modele. Žig u API-ju ostaje podrazumevano isključen, a pristup detektoru biće u početku ograničen na odobrene istraživače i stručne organizacije.
Kompanija tekstualno poreklo opisuje kao način da se utvrdi odakle sadržaj potiče, kako je nastao ili menjan i da li nosi signal povezan sa njenim modelima. Ovaj potez nadovezuje se na zahteve EU AI Act-a da generativni AI provajderi učine generisani tekst prepoznatljivim u mašinski čitljivom obliku.
textGrain menja statistiku izbora reči
OpenAI-jev sistem nazvan textGrain umeće nevidljivi statistički signal u izbor reči modela. Detektor zatim procenjuje da li dati odlomak sadrži OpenAI-jev vodeni žig. OpenAI navodi da je textGrain u internim procenama dostigao ili premašio rezultate drugih testiranih pristupa, uključujući SynthID za tekst.
To ipak ne znači da će rezultat biti jednako pouzdan u svakoj situaciji. Detektori mogu prijaviti žig koji ne postoji, što je lažno pozitivan nalaz, ili propustiti postojeći žig, što je lažno negativan nalaz. Kraći i sadržajno ograničeniji tekst teže je detektovati jer model ima manje prostora za varijacije u izboru reči.
Dužina i izmene značajno utiču na otkrivanje
Pri ciljanoj stopi lažno pozitivnih nalaza od 1%, OpenAI je detektovao žig u približno 80% odlomaka od 200 tokena i u oko 95% odlomaka od 400 tokena za sadržaj poput psihologije. Stope su bile znatno niže za matematiku, gde je fleksibilnost u formulisanju manja.
Izmene teksta dodatno slabe signal. U proceni odlomaka od 400 tokena, zamena 10% reči sinonimima smanjila je detekciju sa približno 92% na 66%. Kada je zamenjeno 25% reči, detekcija je pala na 17%. Zbog tih ograničenja OpenAI detektor pri lansiranju neće javno otvoriti, već će ga odobravati pojedinačno istraživačima i stručnim organizacijama.
Signal porekla nije dokaz autorstva ili tačnosti
Vodeni žig može ukazati da je OpenAI sistem generisao ili obradio deo teksta, ali ne meri ljudski doprinos. Ne utvrđuje vlasništvo, zakonitost upotrebe, obavezu otkrivanja porekla niti odgovornost za sadržaj. Takođe ne povezuje tekst sa osobom, nalogom, organizacijom, promptom ili razgovorom.
Ni odsustvo detektovanog žiga nije dokaz da je tekst napisao čovek. Tekst može biti prekratak, preuređen ili preveden, može poticati od nepodržanog modela, nastati pre uvođenja žigova ili biti generisan alatima druge kompanije. OpenAI navodi da na merilima za Astra model nije zabeležio značajne razlike u performansama između verzija sa žigom i bez njega.
Poslovni zaključak
Za organizacije koje koriste generativni AI, textGrain može biti dodatni signal u procesu procene porekla sadržaja, ali ne i samostalni dokaz. Praktičan pristup ostaje kombinovanje tehničkih oznaka sa ljudskom proverom, internim pravilima objavljivanja i procenom konteksta u kojem se sadržaj koristi.