OpenAI jača zaštitu modela od protivničke destilacije

OpenAI je objavio da je u modelima GPT-6.2 Astra i GPT-6.2 Sol pojačao zaštitu od protivničke destilacije, postupka kojim napadači pokušavaju da iskoriste izlaze naprednog modela za obuku drugog modela bez istih bezbednosnih ograničenja. U internom adaptivnom testu stopa uspeha izvlačenja zaštićenog rezonovanja iz ranijeg zahteva pala je sa 54,0% kod GPT-6 Astra sa prvobitnim zaštitama na 0,2% kod GPT-6.2 Astra.
Za pokušaje izvlačenja rezonovanja iz tekućeg zahteva, prosečna stopa uspeha pala je sa 22,9% na 0,9%. Testiranje je bilo adaptivno i u režimu crne kutije, uz šest modela napadača, što znači da su napadači menjali pristup na osnovu odgovora sistema.
Zašto je destilacija bezbednosni problem
Destilacija je uobičajena tehnika mašinskog učenja: jedan model uči iz podataka koje proizvodi drugi. To mogu biti završni odgovori, procene kvaliteta odgovora ili rezonovanje. Problem nastaje kada se napredne sposobnosti prenesu u sistem koji nema zaštite izvornog modela.
OpenAI posebno izdvaja sajber-bezbednost i biologiju kao oblasti dvojne namene. Model koji pomaže u odbrambenom pronalaženju ranjivosti može istovremeno preneti znanja primenljiva u napadima. Slično važi za istraživačke sposobnosti u biologiji, ako završe u modelu sa slabijim ograničenjima.
Zašto su tačni tragovi rezonovanja važni
Kompanija zaštićenim rezonovanjem naziva međukorake koje model interno generiše dok dolazi do odgovora. Takvi tragovi mogu sadržati informacije koje završni odgovor ne prikazuje, pa predstavljaju vredniji skup podataka za obuku drugog modela nego sažeci rezonovanja.
U internom istraživanju prenosa sajber sposobnosti, OpenAI je uporedio studente trenirane na tačnim tragovima rezonovanja sa studentima treniranim na sažecima. Posle nadziranog finog podešavanja, model treniran na tačnim tragovima uglavnom je imao bolje rezultate. Posle dodatnog učenja potkrepljivanjem, ostao je uspešniji pri najvećem testiranom budžetu zaključivanja na benchmarkovima ExploitBench i SEC-bench Pro.
Zaštite na nivou zahteva i kampanje
Odbrane kombinuju više slojeva. Obuka sa adversarijalnim primerima treba da nauči model da odbije pokušaje izvlačenja zaštićenog rezonovanja, uz zadržavanje legitimnih objašnjenja. Klasifikatori ulaza otkrivaju pokušaje ekstrakcije, dok klasifikatori izlaza proveravaju poruke asistenta i argumente poziva alata pre isporuke korisniku.
Zaštite API-ja ograničavaju ponovno korišćenje rezonovanja između razgovora i modela. Kod GPT-6.2 Astra i GPT-6.2 Sol zaštićeno rezonovanje vezano je za istoriju razgovora koja ga je proizvela; ako se ranija poruka prepravi, API odbacuje rezonovanje nastalo posle nje. Starijim porodicama modela sa slabijim zaštitama takođe nije dozvoljeno da čitaju to rezonovanje.
OpenAI navodi da je ove godine zabeležio više neovlašćenih kampanja protivničke destilacije. Nedeljne mere sprovođenja obuhvatale su mreže od hiljada do desetina hiljada naloga, a kompanija prati i učestalost zloupotrebe i vreme od otkrivanja do reakcije.
Poslovni zaključak
Za organizacije koje uvode generativnu AI, poruka je da zaštita ne sme ostati samo na filtriranju pojedinačnih upita. Potrebno je nadzirati izlaze i pozive alata, ograničiti prenos osetljivog konteksta kroz istoriju razgovora i modele, čuvati uspešne pokušaje zloupotrebe kao regresione testove i povezivati tehničke signale sa istragama naloga. Takav višeslojni pristup smanjuje mogućnost da sposobnosti sistema budu preuzete bez zaštita koje su predviđene za njihovu upotrebu.

