OpenAI testira bezbednosni nadzor bez zadržavanja podataka
OpenAI je odabranim korisnicima predstavio Private Safety Processing, sistem za otkrivanje moguće zloupotrebe AI koji analizira ulaze i izlaze iz više razgovora, bez zadržavanja podataka klijenta. Usluga proširuje postojeći pristup Zero Data Retention (ZDR) i dolazi u trenutku kada Anthropic za određene „obuhvaćene modele” čuva korisničke sesije 30 dana radi bezbednosne analize.
Ključna razlika je u vremenskom dometu nadzora. ZDR u OpenAI API-ju koristi agente koji proveravaju zloupotrebe po pojedinačnoj sesiji, bez čuvanja sadržaja. Private Safety Processing je zamišljen kao dugoročniji nadzor: automatizovani agent može da proceni obrasce kroz više odvojenih razgovora.
Nadzor kroz više sesija bez ljudskog pregleda sadržaja
OpenAI navodi da akter sa lošom namerom može raspodeliti zahteve kroz više sesija kako bi izbegao detekciju. Kao ilustraciju pominje pokušaj izrade malvera za sajbernapad. Novi sistem treba da poveže takve interakcije i prepozna signal moguće zloupotrebe bez ljudskog pregleda korisničkih razgovora.
Kada se aktivira, sistem može poslati OpenAI-ju usko definisan signal o određenoj vrsti aktivnosti. Kompanija zatim odlučuje da li je potrebno sprovesti mere. Ako jeste, obraća se klijentu radi dodatnog konteksta ili rešavanja problema, dok klijent sam odlučuje da li će podeliti podatke.
Različit pristup privatnosti i bezbednosti
Anthropic se uglavnom pridržava ZDR pristupa, ali za „obuhvaćene modele”, među kojima je Fable, ima drugačiju politiku. Kompanija je u julu saopštila da može zadržati sve sesije i razgovore 30 dana. Svrha je analiza potencijalne neprimerene upotrebe, ali je takav model izazvao zabrinutost preduzeća koja upravljaju velikim količinama osetljivih podataka.
Anthropic navodi da ljudski pregled podataka može uslediti samo kontrolisanim putem, uz mali broj odobrenih pregledalaca. Svaka sesija pregleda beleži se u dnevniku otpornom na izmene. Širi poslovni kontekst uključuje i uticaj Mythos modela na poslovne odluke kompanije Anthropic uticaj Mythos modela na poslovne odluke kompanije Anthropic.
Šta preduzeća treba da provere
Ovaj potez pokazuje da privatnost i bezbednosni nadzor više nisu odvojene teme pri izboru AI platforme. Organizacije treba da utvrde da li dobavljač zadržava sadržaj, da li nadzor obuhvata jednu ili više sesija, kada je moguć ljudski pristup i kako izgleda eskalacija upozorenja.
Za poslovnu upotrebu praktičan zaključak je da ugovorne i tehničke provere AI servisa treba uskladiti sa vrstom podataka koje organizacija obrađuje, uz jasno razumevanje granica automatizovanog nadzora i diskrecionog deljenja sadržaja tokom incidenta.