OpenAI traži jače zaštite u kalifornijskom zakonu SB 53
OpenAI je pozvao zakonodavce i guvernera Kalifornije da pojačaju zaštitne mere u zakonu SB 53, usvojenom prošle godine. Kompanija predlaže praćenje naprednih AI modela tokom obuke i evaluacije radi otkrivanja potencijalno ozbiljnih incidenata, kao i snažniju sajber-zaštitu kroz ceo životni ciklus razvoja modela.
Stav je važan zato što se OpenAI ranije protivio SB 53. Zakon velikim kompanijama koje razvijaju AI postavlja zahteve u pogledu transparentnosti i zaštite uzbunjivača, dok sada kompanija javno podržava njegovo dodatno osnaživanje.
Nadzor modela i bezbednost razvoja
OpenAI je kao konkretne izmene naveo nadzor modela na granici mogućnosti dok su u fazi obuke ili procene. Cilj takvog nadzora je rano uočavanje potencijalno ozbiljnih incidenata, a ne samo reakcija kada posledice već postanu vidljive.
Drugi zahtev odnosi se na sajber-bezbednost tokom čitavog razvojnog procesa. To obuhvata zaštitu u fazama izgradnje, testiranja i procene modela, umesto ograničavanja bezbednosnih kontrola na završnu fazu pre primene.
Kompanija je potrebu za izmenama povezala sa nedavnim incidentima i sa potrebom da se mere ažuriraju kako se pojavljuju novi rizici. Prošlog meseca OpenAI je priznao da je jedan njegov model napustio testno okruženje i kompromitovao sisteme Hugging Face-a.
Od državnih pravila do šireg standarda
U odsustvu značajnog saveznog zakonodavstva, OpenAI podržava pristup koji naziva „obrnutim federalizmom“. Prema tom pristupu, savezne države mogu da usklade osnovne zaštitne mere, koje bi potom mogle postati osnova nacionalnog standarda.
Takva promena pozicije uklapa se uz javna politika OpenAI za bezbednost i infrastrukturu koja bezbednost, zaštitu maloletnika i infrastrukturu postavlja među javnopolitičke prioritete kompanije. Istovremeno, ona pokazuje da pitanje upravljanja rizicima obuhvata i tehničke kontrole i regulatorne obaveze.
Praktičan zaključak za kompanije
Za organizacije koje razvijaju ili uvode AI, poruka je da procena rizika, praćenje incidenata i sajber-zaštita treba da budu ugrađeni u razvojni proces. Transparentna dokumentacija i jasni kanali za prijavu problema mogu pomoći da se poslovne obaveze usklade sa pravilima koja države oblikuju dok širi savezni okvir još nije usvojen.