Microsoft uvodi nadzor AI agenata kao unutrašnjih bezbednosnih rizika
Microsoft je predstavio Guardian Agents, funkciju za nadzor AI agenata koje kompanije koriste, i dopunio Microsoft Defender mogućnošću otkrivanja do 60 vrsta agenata, među kojima su Claude Code, Codex i OpenClaw. Novine dolaze uz upozorenje kompanije da naprednim AI modelima, bez obzira na poreklo, ne treba bezuslovno verovati kada dobiju pristup osetljivim podacima i poslovno važnim radnjama.
Agenti kao potencijalna unutrašnja pretnja
Guardian Agents je deo projekta Project Perception, koji je Microsoft predstavio u junu. Projekat je prvobitno organizovan kroz tri klase agenata: crveni tim simulira napade, plavi tim ih otkriva i procenjuje pronađene ranjivosti, dok zeleni tim radi na njihovom otklanjanju.
Takav pristup je polazio od pretpostavke da će AI napadači dolaziti spolja. Microsoft sada naglašava drugačiji rizik: agent koji organizacija sama uvodi može imati široka ovlašćenja, pristup podacima i mogućnost da preduzima radnje u njeno ime. Zbog toga se AI agent posmatra slično kao potencijalna unutrašnja pretnja, a ne samo kao alat koji treba zaštititi od spoljnog napadača.
Satja Nadela je naveo da organizacije ne mogu prepustiti odgovornost za rad inteligentnih sistema samim dobavljačima modela. Njegova poruka je da snabdevanje inteligencijom treba razdvojiti od ovlašćenja nad njom: sistem koji nadzire agente ne bi trebalo da zavisi isključivo od proizvođača agenata.
Kontrola pristupa i ljudsko odobrenje
Šefica Microsoftovog bezbednosnog poslovanja Hajete Galot ocenila je da se graničnim modelima ne može verovati ne zato što su nužno zlonamerni ili lako kompromitovani, već zato što su nepredvidivi. Obučeni su da izvršavaju zadatke, a ne da samostalno primenjuju organizacione norme i poslovnu procenu u svakom kontekstu.
Microsoft zato uvodi mogućnosti za ograničavanje pristupa podacima i sistemima, kao i dinamičko prilagođavanje dozvola konkretnom zadatku. Kada agent deluje kao da donosi rizičnu odluku, sistem može zahtevati ljudsko odobrenje. Detekcija u Microsoft Defenderu namenjena je i prepoznavanju agenata koje zaposleni unose u radno okruženje.
Širi industrijski odgovor
Microsoft je među prvim članovima Nvidia platforme Open Agent Safety Platform, koju podržava više od 100 tehnoloških kompanija. Platforma izoluje agente u zaštićena okruženja i može da prati i zaustavlja njihovo ponašanje kroz hardver, što joj daje ulogu nalik prekidaču za zaustavljanje.
Ovaj bezbednosni zaokret nadovezuje se na Microsoftovu konkurenciju na korporativnom AI tržištu i pokazuje da se upravljanje rizikom AI agenata sve više odvaja od same kupovine modela. Praktičan poslovni zaključak je da svaka organizacija treba da definiše najmanje potrebne dozvole, nadzor radnji i jasne tačke ljudskog odobrenja pre nego što agentima poveri pristup ključnim sistemima.