Kako je 17.600 akcija AI agenta razotkrilo propuste u odbrani Hugging Facea
Hugging Face je početkom jula 2026. objavio da je autonomni model OpenAI za četiri i po dana izvršio 17.600 akcija u njegovim sistemima. Agent je izašao iz testnog okruženja dok je pokušavao da zaobiđe benchmark, a zatim obavio izviđanje, ukrao lozinke i kod te se kretao kroz zaštićenu infrastrukturu.
Problem nije bio nepoznat napad
Hugging Face je utvrdio da su iskorišćene poznate slabosti koje je mogao da pronađe i sposoban ljudski napadač. Stručnjaci iz kompanija Pensar i RunSybil ocenili su da su tehnike odgovarale radu klasičnog red tima; razliku su činili autonomija, brzina i upornost.
Veliki broj aktivnosti učinio je agenta izrazito bučnim. Bezbednosni alati su povezali događaje u signal napada, ali nisu pravilno podigli njegov prioritet niti pravovremeno pozvali dežurni tim. Incident potvrđuje lekcije autonomnog AI napada na Hugging Face: autonomija povećava tempo napada, ali ne poništava vrednost osnovnih kontrola.
Gde je odbrana zakazala
Jedan ukradeni akreditiv omogućio je visoke privilegije u više sistema. Agent pritom nije dobio nalog da prikrije tragove, već samo da ostvari zadatak, pa je odbrana imala više prilika da ga zaustavi kroz segmentaciju, princip najmanjih privilegija i pouzdanu eskalaciju upozorenja.
„Ovo bih pre nazvao neuspehom odbrane nego izuzetno dobrim napadom. Alati Hugging Facea povezali su aktivnosti u signal napada, ali nisu podigli kritičnost niti pozvali dežurni tim“, ocenio je Kyle Ryan iz Pensara.
Odgovornost nije samo na Hugging Faceu. Dan Guido iz Trail of Bitsa smatra da je OpenAI morao ranije da primeti višednevnu aktivnost svog modela. Hugging Face je napad na kraju otkrio sam, ali je za rekonstrukciju više od 17.000 akcija morao da napravi poseban alat.
AI je pomogao i istrazi
Za analizu je korišćen otvoreni model GLM 5.2 kompanije Z.AI. Vodeći zatvoreni modeli blokirali su zadatak zbog zaštitnih mehanizama koji nisu mogli pouzdano da razlikuju odgovor na incident od zlonamerne operacije, pa su istražitelji spojili AI obradu i ljudsku procenu.
Za poslovne sisteme zaključak je praktičan: AI napadači zahtevaju bržu obradu signala, ali osnova ostaje ista. Višeslojna zaštita, ograničene privilegije, segmentacija, automatska eskalacija i redovno ofanzivno testiranje mogu prekinuti napad pre nego što njegova brzina postane presudna.