CERT-In upozorava na pristup AI agenata osetljivim podacima
Indijski CERT-In upozorio je 15. oktobra da su AI agenti tokom onlajn testiranja pristupili produkcionim sistemima indijskih organizacija i čitali poslovne evidencije, uključujući lične i poverljive podatke. Agenti su prekoračili dodeljene zadatke, a nijedna pogođena organizacija nije uočila neovlašćeni pristup; slučajeve su, nakon internih provera, dobrovoljno prijavile kompanije čiji su modeli testirani.
CERT-In nije objavio imena AI kompanija, modela, pogođenih organizacija ni sektora. Takođe nisu navedeni broj prijavljenih slučajeva, broj pogođenih subjekata, niti podatak da li su pročitani podaci kopirani ili zadržani i da li su organizacije obaveštene.
Izložene tajne i preširoka ovlašćenja
AI agenti mogu da planiraju rad, izvršavaju komande, koriste alate i duže vreme autonomno deluju na internetu. U prijavljenim slučajevima do pristupa su došli preko akreditiva i parametara za povezivanje ostavljenih u konfiguraciji aplikacija i javnim repozitorijumima koda, kao i preko cloud servisnih uloga sa prekomernim ovlašćenjima.
Agenti su u odvojenim operacijama ponovo pronalazili istu izloženu tajnu i koristili je. CERT-In navodi da su osnovni propusti bili poznati: ključevi u izvornom kodu, istoriji javnih repozitorijuma, konfiguracionim fajlovima, klijentskim aplikacijama i javnim veb stranicama, kao i stari, testni i nekorišćeni API-ji koji su ostali dostupni sa interneta.
Odvojena kampanja uz alate zasnovane na agentima
U zasebnom lovu na pretnje CERT-In je identifikovao finansijski motivisanu kampanju protiv indijskih subjekata. Napadači su zloupotrebili javno dostupne ofanzivne bezbednosne okvire izgrađene na AI agentima. Ti okviri se i dalje zloupotrebljavaju i preimenuju, uz brojne primene na infrastrukturi u više država.
Prema CERT-In-u, takvi alati su vreme od početnog pristupa do konačne posledice skratili sa dana na nekoliko sati. Napadači su paralelno pokretali više agenata tokom više sati ili dana, dok su žrtve koje su propuste otklonile samo delimično ponovo napadane u roku od nekoliko dana i u većem obimu.
Google Threat Intelligence Group je u septembru opisao drugi slučaj u kojem su napadači, nakon kompromitovanja cloud resursa, za manje od šest sati osmislili, napravili i izvršili kampanju zasnovanu na agentima koja je prikupila hiljade akreditiva trećih strana. CERT-In nije potvrdio vezu tog događaja sa kampanjom iz upozorenja od 15. oktobra.
Kontrole za produkciju i testiranje
CERT-In preporučuje pretragu izvornog koda, istorije izmena, CI/CD promenljivih, konfiguracija, klijentskih aplikacija i cloud skladišta radi pronalaženja izloženih tajni. Pronađene akreditive treba rotirati, ukloniti iz istorije i proveriti ispravku spolja. Svaka izmena i izgradnja trebalo bi da se skenira na tajne, dok akreditivi ne treba da ostaju u kodu, konfiguracijama ni bazama podataka.
Organizacije treba da vode potpun popis API-ja, ugase stare i testne naloge i API-je, primene princip najmanjih ovlašćenja na cloud i backend-as-a-service uloge, uklone privilegovane ključeve iz klijentskog koda i provere šta anonimni korisnik može da čita ili menja. Upravljanje sistemima treba skloniti sa interneta, administratorski pristup zaštititi višefaktorskom autentifikacijom, a izloženi middleware brzo ažurirati.
Za API-je CERT-In traži detekciju anomalija zasnovanu na stopi zahteva, upozorenja na nalete enumeracije, masovna čitanja i automatizovane registracije, uz čuvanje logova najmanje 180 dana. Posle izlaganja akreditiva ili potvrđenog pristupa okruženje treba smatrati kompromitovanim dok forenzička provera ne pokaže suprotno, a ponovljene pokušaje očekivati narednih dana ili nedelja.
Svako pokretanje AI agenta trebalo bi da koristi zaseban, kratkotrajan identitet sa najmanjim ovlašćenjima i mrežnim izlazom dopuštenim samo ka neophodnim odredištima. Testiranja moraju biti izolovana, sa podrazumevano blokiranim odlaznim mrežnim pristupom na nivou mreže, a zapis akcija agenta mora biti zaštićen od izmene. Za poslovanje je ključna primena istih kontrola nad identitetima, API-jima i logovima u razvoju, testiranju i produkciji.