Rast AI upozorenja menja prioritete bezbednosnih operacija
AI alati i agenti činili su oko 73.000, odnosno 0,43%, od približno 16,9 miliona upozorenja bezbednosno-operativnih centara koje je Intezer analizirao. Iako je njihov udeo još mali, broj AI povezanih upozorenja porastao je 685% od februara do juna 2026. godine, pri čemu je svaki puni mesec beležio veći obim od prethodnog.
Najvažniji nalaz nije samo rast volumena, već njegova struktura. Intezer je 94,1% AI upozorenja klasifikovao kao šum, 5,8% kao stvarni bezbednosni rizik, a svega 0,02% kao potvrđene napade. Zato za SOC najveći neposredni trošak nije talas kompromitacija izazvanih sopstvenim agentima, već obrada alarma koji izgledaju ozbiljno, a potiču od legitimnog rada.
Zašto AI alati aktiviraju postojeće detekcije
Usvajanje AI u kompanijama odvija se kroz dva paralelna obrasca. Programeri koriste agente za kodiranje koji pokreću komandne ljuske, pristupaju skladištima akreditiva, otvaraju mrežne tunele, preuzimaju pakete i izvršavaju bezbednosne alate. Takav niz aktivnosti detekcionom sistemu može ličiti na rane faze napada.
Drugi obrazac je tiši: zaposleni daju OAuth saglasnosti spoljnim AI aplikacijama, dele informacije i učitavaju dokumente u generativne alate. Endpoint zaštita ovakvo ponašanje ređe registruje, ali upravo tu poslovni podaci mogu biti poslati spoljnim pružaocima usluga.
Primeri pokazuju koliko kontekst menja procenu. Jedna detekcija je činila 55% svih upozorenja sa oznakom kritične ozbiljnosti za Windows binarni fajl Expand.exe, koji je označen kao alat za lateralni prenos. Proverom je utvrđeno da je razvojni agent pripremao okruženje komandne ljuske, što je bilo očekivano ponašanje.
Stvarni rizici nisu isto što i potvrđeni napadi
Potvrđeni napadi u analiziranoj populaciji uglavnom su koristili popularnost AI brendova kao mamac za phishing. Zabeležene su poruke koje su se predstavljale kao poslovna komunikacija kompanije Anthropic, pozivi za Google/Gemini Ads ili događaj OpenAI Partner Summit 2026. AI brend nije bio izvor pretnje, već element prevare koji poruci daje privid legitimnosti.
Mnogo važnija kategorija za preventivni rad su legitimne, ali nebezbedne upotrebe. Agent pokrenut sa opcijom za zaobilaženje potvrde dozvola može izvršavati komande bez prethodnog pitanja korisnika. Intezer je takođe naveo slučajeve otvaranja ngrok obrnutog tunela prema javnom internetu, izdvajanja kompletnog macOS keychain sadržaja u privremenu datoteku i OAuth pristupa AI aplikacijama.
Istovremeno, legitimni instalacioni i razvojni procesi mogu izazvati ozbiljne lažne uzbune. Potpisani Anthropic Claude Desktop instalacioni program aktivirao je pravila poput „Ransomware Operations detected“, dok je OpenAI Codex CLI sa opcijom --yolo pokretao detekcije povezane sa ClickFix-om, onemogućavanjem alata i DLL injekcijom. Visoka oznaka ozbiljnosti zato sama po sebi ne potvrđuje incident.
Praktičan odgovor za SOC
Prioritet je podešavanje nasleđenih detekcija koje rutinski rad AI agenata označavaju kao napad visokog prioriteta. Paralelno treba definisati pravila o podacima koji se smeju deliti sa AI platformama i aktivno tražiti pokretanja bez zaštitnih potvrda, neodobrene tunele i rizične OAuth saglasnosti.
AI alati deluju pod korisničkim identitetom, pa SOC najpre mora razdvojiti postupak korisnika od postupka agenta. Pokretanje agenata u ograničenom Docker kontejneru ili virtuelnoj mašini može ograničiti pristup akreditivima i osetljivim podacima, a istovremeno olakšati tumačenje njihovog ponašanja. Za poslovanje je ključno uskladiti pravila detekcije sa normalnim radom agenata, dok se stvarne izloženosti prate ciljano i sa jasnim kontrolama pristupa.