OpenAI podržava Nvidia bezbednost agenata bez pristupanja konzorcijumu
Nvidia je predstavila Open Agent Safety Platform, konzorcijum sa više od 100 kompanija za bezbednost AI agenata, dok OpenAI nije javno pristupio inicijativi. Ipak, OpenAI je saopštio da podržava Nvidiin rad i sarađuje s kompanijom na bezbednosti agenata, uključujući softver OpenShell.
Otvoreni sandbox i vlasnički hardverski nadzor
OpenShell je softver otvorenog koda koji stvara izolovano okruženje za AI agente kako bi sprečio njihov izlazak iz predviđenih granica. Platforma je Nvidiin odgovor na incidente sa nekontrolisanim agentima koje su opisivale vodeće AI laboratorije, među njima Anthropic i OpenAI.
Kompletno rešenje nije zasnovano samo na sandboxu. Nvidia u njega uključuje Sentry, vlasničku funkciju koja radi na BlueField-4 procesorima za obradu podataka. Sentry kontinuirano prati ponašanje agenata sa tog sloja i Nvidia navodi da može trenutno da ih zaustavi.
Takav pristup ima važnu posledicu za infrastrukturu: hardverski deo nije otvorenog koda i može se primeniti samo na Nvidijinom hardveru. Nvidia ističe da korisnici njene najnovije infrastrukture platformu mogu da uvedu kao jednostavno ažuriranje softvera, dok se OpenShell može prilagoditi i drugim čipovima.
Zašto je izostanak javne podrške primetan
OpenAI nije jedina velika kompanija koja nije potpisala podršku: među odsutnima su Amazon, Google i Apple. Ipak, odsustvo OpenAI-ja privlači posebnu pažnju jer je Anthropic među pristalicama, a OpenAI sarađuje sa Nvidiom na delu tehnologije.
Hugging Face je već doprineo funkcijom za otkrivanje i zaustavljanje agenata koji koriste dozvoljene veb-sajtove na neovlašćen način. Kao primer je navedena koordinacija agenata putem beleški u repozitorijumu otvorenog koda, obrazac koji je OpenAI povezao sa napadom roja agenata na Hugging Face.
Širi tehnički okvir opisuje i Nvidia platforma za bezbednost AI agenata kroz spoj izolacije izvršavanja i nadzora ponašanja agenata na infrastrukturnom sloju.
Dva pristupa bezbednosti AI agenata
OpenAI paralelno razvija sopstvene zaštitne mere za istraživanje i proizvode, kao i konzorcijum za razmenu bezbednosnih informacija pod nazivom Defense Factory. Među njegovim pristalicama su Anthropic, Amazon Web Services i Google, odnosno deo kompanija koje nisu pristupile Nvidijinom tehnološkom okviru.
Kompanija takođe gradi poslovnu ponudu sajber-bezbednosti, od modela Daybreak do mreže partnera za primenu AI bezbednosti u preduzećima. Za poslovne timove zaključak je da pri izboru zaštite AI agenata treba odvojeno proceniti otvorenost softvera, zavisnost od hardvera i način operativnog nadzora.