Kako bezbedno zaustaviti AI agenta tokom incidenta

AI agent koji razvrstava korisničke tikete i proverava naloge može, zbog prava identiteta i povezanih alata, pokušati da izveze zapise na nepoznato odredište. Pregled OWASP GenAI Security Project iz oktobra 2026. ukazuje na agente koji izlaze iz predviđenog opsega i preporučuje proveru da li obuzdavanje zaista ukida akreditive i mrežni pristup, a ne samo rad modela.
Takav pregled je izbor primera, a ne potpuna evidencija incidenata. Ipak, postavlja praktično pitanje za timove koji uvode agente u produkciju: šta tačno znači zaustaviti agenta kada model, orkestrator, identitet, API alati i mrežna pravila rade kao odvojeni delovi istog sistema?
Gašenje modela nije nužno prekid aktivnosti
Model može da odabere radnju, ali orkestrator izvršava tok rada, identitet obezbeđuje pristup, a alati i API-ji sprovode zahtev. Mrežne politike određuju gde ti alati mogu da se povežu. Zbog toga isključivanje krajnje tačke modela u jednoj arhitekturi može prekinuti tekući zadatak, dok u drugoj red poslova, ponovni pokušaji ili već uspostavljena sesija mogu nastaviti rad.
Opoziv jednog akreditiva takođe ne mora poništiti drugi token ili postojeću vezu. Sesije i tokeni se između sistema razlikuju po trajanju i načinu invalidacije. Zato prekidač za AI agenta treba posmatrati kao provereni skup kontrola: zaustavljanje aktivnih i zakazanih izvršavanja, opoziv pristupa, isključivanje alata i ograničavanje mrežnih putanja.
Kako proceniti signal i sprovesti obuzdavanje
Neočekivana radnja sama po sebi ne dokazuje kompromitovanje. Izmenjen tok rada, greška u softveru, loša konfiguracija ili neuobičajen ulaz mogu proizvesti ponašanje koje deluje sumnjivo. Pažnju zahtevaju pristup resursu izvan dodeljenog zadatka, neuobičajen obim čitanja, upisa ili izvoza, nastavak rada nakon pauziranja, kao i upotreba neočekivanih dozvola ili integracija.
Dnevnici samog agenta mogu objasniti šta je pokušao, ali nisu dovoljni kao jedini dokaz. Bezbednosni tim treba da ih poredi sa zapisima provajdera identiteta, API-ja, aplikacija i mreže. Zapis o pokušanoj radnji ne potvrđuje da je radnja i uspela, pa je važno odvojiti utvrđene činjenice od pretpostavki.
Redosled odgovora i bezbedan povratak u rad
Prvi korak je pauziranje pogođenog toka rada, uključujući okidače, ponavljanja i redove gde je to moguće. Instrukcija u promptu da agent stane nije mera obuzdavanja; prekid mora biti sproveden kroz sistem koji upravlja tokom rada. Kada infrastrukturu dele druge usluge, pogođeni tok treba izolovati bez nepotrebnog prekida nepovezanih sistema.
Zatim treba identifikovati korišćene identitete usluga, akreditive, sesije i dozvole, ukinuti nepouzdani pristup i rotirati tajnu ako postoje pokazatelji njenog otkrivanja. Potrebno je ograničiti sporni alat ili integraciju i, kada postoji rizik od odliva podataka, blokirati dalja mrežna povezivanja kontrolama koje nisu pod upravljanjem instrukcija agenta.
Treba sačuvati identitet agenta, identifikator izvršavanja ili sesije, vremenske oznake, pozive alata, odluke o autorizaciji i pogođene resurse. Proveravaju se pročitane ili izmenjene datoteke, izvezeni zapisi, promenjene dozvole, poslate poruke i preuzeti akreditivi. Za već izvršene radnje potrebno je proceniti posledice na svakom pogođenom resursu, jer zaustavljanje agenta ne vraća automatski prethodno stanje.
Pre ponovnog pokretanja potrebno je utvrditi uzrok: nesiguran ulaz, preširoka prava, kompromitovana integracija, promena konfiguracije ili greška u okolnom sistemu. Pristup se vraća u najmanjem potrebnom obimu, tok se proverava u kontrolisanom okruženju, a radnje visokog uticaja mogu zahtevati ljudsko odobrenje. Poslovni zaključak je da vlasništvo nad agentom, mapa njegovih pristupa, dostupni dnevnici i proverene procedure za opoziv i blokiranje veza moraju biti poznati i testirani pre incidenta.

