OpenAI uvodi nevidljivi žig za ChatGPT i Codex u EU
OpenAI će tokom narednih nedelja uvesti nevidljivi vodeni žig u tekstove koje generišu ChatGPT i Codex za korisnike u Evropskoj uniji, na svim paketima. Potez prati zahteve transparentnosti iz Akta EU o veštačkoj inteligenciji, koji su počeli da važe 2. avgusta. Programeri koji koriste OpenAI API mogu od danas da uključe opciju za odabrane modele bilo gde u svetu, ali ona je podrazumevano isključena.
Žig je ugrađen u izbor reči
Rešenje nije vidljiv simbol niti oznaka dodata na kraj dokumenta. OpenAI-jev metod, nazvan textGrain, blago oblikuje izbor reči koje model predlaže tokom stvaranja odgovora. Tako nastaje obrazac koji čitalac ne vidi, dok ga detektor može prepoznati.
Pošto je obrazac sadržan u samom tekstu, ostaje prisutan i kada se sadržaj kopira i nalepi na drugo mesto. Tehnički izveštaj, koji su zajedno pripremili OpenAI i istraživači Univerziteta Pensilvanije i Jejla, opisuje pristup u kojem tajni ključ razvrstava predloge za narednu reč. Veliki broj takvih pojedinačnih usmerenja omogućava detekciju na osnovu teksta i ključa.
OpenAI navodi da žig ne otkriva identitet korisnika i da njegovo uključivanje nije donelo značajnu promenu performansi modela. U trenutku početka primene kompanija ne uvodi vodeni žig kao podrazumevanu globalnu postavku za tekst.
Detekcija ima jasna ograničenja
Testovi pokazuju da se obrazac može oslabiti uređivanjem. Kada je oko 10% reči zamenjeno sinonimima, stopa detekcije pala je sa približno 92% na 66%. Kratki odlomci, matematički odgovori i prevedeni tekstovi takođe su teži za pouzdano prepoznavanje.
Zbog tih ograničenja, početni pristup detektoru biće dostupan samo odobrenim istraživačima i stručnim organizacijama. Odsustvo žiga, kako OpenAI naglašava, ne dokazuje da je sadržaj napisao čovek: tekst može biti prekratak, znatno prerađen ili napravljen drugim sistemom veštačke inteligencije.
U tom kontekstu, uvođenje nevidljivog žiga za ChatGPT i Codex pokazuje da se oznaka odnosi na to da je OpenAI sistem generisao ili obradio deo pasusa, a ne na obim ljudskog uređivanja, procene ili kreativnog doprinosa.
Šta to znači za poslovnu upotrebu
Za organizacije koje koriste generativnu veštačku inteligenciju, vodeni žig može biti dodatni signal u procedurama provere porekla sadržaja. Ne može, međutim, samostalno utvrditi autorstvo niti zameniti pregled teksta, internu evidenciju načina upotrebe alata i uredničku odgovornost. Poslovno pravilo ostaje jasno: odluke o objavljivanju i korišćenju sadržaja zahtevaju ljudsku proveru, čak i kada je tehnički signal dostupan.