Open Secure AI Alliance pokrenuo SAFE i otvorio prve bezbednosne predloge
Open Secure AI Alliance (OSAA), savez koji predvodi Nvidia, za samo nedelju dana okupio je više od 120 kompanija i formirao radnu grupu Shared AI Findings Exchange (SAFE). Grupa je već iznela prve predloge na javno komentarisanje, dok postupkom upravlja Linux Foundation, takođe član saveza.
Predlozi su razvijani dok su se članovi okupljali na konferenciji Black Hat u Las Vegasu. Njihov početni obuhvat nije revolucionaran, ali se odnosi na osnovne procese bez kojih je teško graditi zajedničku odbranu: poverljivo prijavljivanje incidenata u sajber-bezbednosti veštačke inteligencije, obaveštavanje pogođenih strana i analizu bez okrivljavanja, kako bi učesnici mogli da uče iz problema.
Od smernica do zajedničkog skupa alata
Paralelno sa izradom smernica, članovi OSAA doprinose delovima svojih tehnologija otvorenog koda i katalogizuju ih. Takva zbirka bi vremenom mogla da preraste u otvoreno rešenje za zaštitu poslovnih AI agenata ili odbranu od zloupotrebljenih AI sistema.
Aktuelni doprinosi pokrivaju različite slojeve tehnološkog sistema. Nvidia nudi porodicu otvorenih modela i Garak, skener ranjivosti velikih jezičkih modela otvorenog koda. Okta radi na tehnologiji identiteta agenata, Red Hat na upravljanju agentima, a Amazon je doprineo alatom Strands Agents za izradu otvorenih agenata i jezikom Cedar za definisanje ovlašćenja.
Brz prelazak sa osnivanja na konkretne predloge nadovezuje se na savez Nvidije i 36 kompanija za zaštitu AI sistema kao početnu organizacionu osnovu za zajednički rad kompanija na zaštiti AI sistema.
Široko članstvo, ali i važna odsustva
Savez sada uključuje velika imena kao što su Adobe, BlackRock, Cisco, Intel, Microsoft i Visa, kao i Hugging Face. Ipak, Anthropic, OpenAI i Google nisu među članovima, iako su OpenAI i Google potpisali prvobitno otvoreno pismo iz kojeg je inicijativa proistekla.
To pismo, koje je podržalo više od 200 tehnoloških kompanija, pozvalo je Belu kuću da podrži napore u oblasti otvorene veštačke inteligencije umesto da ih ograničava. Nastalo je u trenutku zabrinutosti industrije zbog razmatranja zabrane kineskih modela sa otvorenim težinama u Sjedinjenim Državama.
Šta ovo znači za preduzeća
Za poslovne korisnike najvažnije je što OSAA istovremeno radi na procesima i tehničkim komponentama. Prijavljivanje incidenata, identitet agenata, pravila ovlašćenja, upravljanje i skeniranje ranjivosti pripadaju različitim delovima istog bezbednosnog lanca.
Preduzeća zato mogu da prate SAFE predloge kao moguću osnovu za sopstvene procedure, a katalog otvorenih doprinosa kao izvor alata koje tek treba proceniti u konkretnom okruženju. Praktičan zaključak je da se postojeće kontrole identiteta, ovlašćenja, upravljanja i reagovanja na incidente moraju posmatrati zajedno pri uvođenju AI agenata.