VMTech
Razgovarajmo →

Autonomija AI agenata u SOC-u mora da se zasluži dokazima

Autonomija AI agenata u SOC-u mora da se zasluži dokazima

AI agenti u bezbednosno-operativnim centrima dobijaju sve više ovlašćenja, ali istraživanje a16z među CISO rukovodiocima u organizacijama sa više od 1.000 zaposlenih pokazuje jasne granice: 36% ispitanika danas prihvata autonomne agente za niskorizične radnje, a 60% očekuje isti nivo komfora za 12 meseci. Istovremeno, samo 1% je spreman da agentima danas prepusti većinu akcija, dok to za godinu dana očekuje 7%.

Najčešća bojazan, koju je navelo 55% ispitanika, jeste da će napadi ubrzani AI-jem nadmašiti sposobnost tima da odgovori. Analitičarsko vreme je ograničen resurs: svaki alert često zahteva prikupljanje dokaza iz više sistema, rekonstrukciju događaja i procenu da li je reč o stvarnoj pretnji.

Autonomija nije jedan prekidač

Rasprava ne bi trebalo da se svodi na pitanje da li AI samo predlaže ili samostalno deluje. Automatizacija se može raspodeliti kroz pojedinačne faze rada: prikupljanje informacija, analiza, izbor odgovora i sprovođenje odgovora. Svaka od tih faza može imati drugačiji nivo ljudskog nadzora.

U SOC-u to znači da agent može samostalno da pretražuje SIEM, EDR i identitetske zapise, pribavlja stablo procesa, obogaćuje indikatore i povezuje nalaze. Tim zatim može zadržati strožu kontrolu nad radnjama koje menjaju okruženje, kao što su izolacija sistema, opoziv sesija ili gašenje naloga.

Tri merila za svaku akciju

Za određivanje nivoa autonomije potrebno je proceniti tri stavke: da li se radnja može poništiti, koliki je njen domet i koliko su dokazi koji je opravdavaju snažni i proverljivi. Upit nad logovima nema posledice koje treba vraćati, dok izolacija produkcionog servera može uticati na poslovanje čitave organizacije.

Prikupljanje logova i indikatora zato može biti potpuno autonomno. Zatvaranje lažno pozitivnog slučaja ili otvaranje tiketa mogu da rade samostalno uz uzorkovanu proveru, ako postoji potpun dokazni trag. Za blokiranje poznatog zlonamernog heša ili domena potrebna je unapred definisana politika, dok izolacija standardnog računara zaposlenog, deaktivacija naloga i naročito intervencije nad produkcionim serverima zahtevaju veći stepen odobrenja.

Odobrenje vredi samo uz proverljive dokaze

Anketa navodi da 52% CISO rukovodilaca želi da agenti rade isključivo uz ljudsko odobrenje. Međutim, odobravanje može postati puka formalnost ako osoba koja donosi odluku ne vidi dokaze, tok zaključivanja i opcije koje je agent proverio, a zatim odbacio.

Zahtev za odobrenje treba da pokaže poreklo prikupljenih podataka, obrazloženje koje ih povezuje sa zaključkom i provere sprovedene tokom istrage. Ako analitičar ne može da proveri presudu za minut ili dva, ljudska kontrola ne pruža očekivanu vrednost.

Ovlašćenja se povećavaju i smanjuju

OWASP Top 10 for Agentic Applications ovaj princip opisuje kao najmanju potrebnu autonomiju: agent dobija samo ovlašćenja nužna za ograničen i bezbedan zadatak. Napredovanje treba vezati za unapred postavljene pragove podudaranja sa analitičarskom proverom, probni rad bez stvarnih izmena, potpunu revizijsku evidenciju i definisan postupak vraćanja radnje.

Jednako je važno predvideti smanjenje autonomije. Pad podudarnosti, promena okruženja poput uvođenja novog EDR-a ili migracije u oblak, kao i ozbiljan propust, treba da vrate akciju na niži nivo dok se uslovi ponovo ne ispune.

AI agent kao privilegovani identitet

Autonomija povećava i potencijalnu štetu ako je agent pogrešan, izmanipulisan ili kompromitovan. U istoj anketi, 46% CISO rukovodilaca ubraja agente koji deluju izvan nameravanih dozvola ili su kompromitovani među pet najvećih briga, a 29% navodi prompt injection ili curenje podataka kroz AI aplikacije.

Poslovni zaključak je da AI SOC agent treba tretirati kao novi privilegovani identitet: dodeliti mu zaseban identitet, ograničiti dozvole na odobrene akcije, beležiti svaki poziv alata, upit i izvršenu radnju, te nadzirati ga istim mehanizmima koji se primenjuju na administrativne naloge. Kapacitet se najbezbednije povećava najpre u prikupljanju i proveri dokaza, a izvršna ovlašćenja se šire jednu po jednu klasu akcija, tek kada ih potvrde merljivi i proverljivi rezultati.

#aisecurity#securityoperations#aigovernance#socautomation
Otvorena analitika
Na sajtu 11 pregleda
min čitanja 5 20.11.2026
Instagram

Autonomija AI agenata u SOC-u mora da se zasluži dokazima

Otvorite objavu na Instagramu ↗