Nasleđeni AI agenti otkrivaju slabosti korporativnog upravljanja
U Salesforce Agentforce-u kombinacija standardnih funkcija Flow, Email-to-Case i Web-to-Case može stvoriti put od javne poruke do AI agenta i njegovog odlaznog odgovora: imejl ili veb upit postaje zapis slučaja, Flow njegove podatke prosleđuje promptu, a agent može izvršiti radnju, dodati komentar i poslati odgovor. Istraživači su taj obrazac dokumentovali u avgustu 2026. godine; nije reč o pogrešno podešenoj funkciji, već o povezivanju predviđenih mogućnosti platforme.
Takav lanac pokazuje da rizik često nije u samom modelu, već u aplikaciji koja ga okružuje. Neautentifikovani pošiljalac može uticati na sadržaj koji stiže do internih instrukcija agenta, dok odgovor može izaći istim kanalom. Ishod zavisi od uključenih ulaznih funkcija, aktiviranih okidača, objekata dostupnih gostujućim korisnicima, automatizacije koja prenosi nepouzdane podatke i verzije modela koju agent koristi.
Kontrole moraju pratiti okruženje u kome agent radi
Jednokratna procena rizika pri nabavci ne može obuhvatiti agenta koji u tom trenutku nije postojao. Ni filter prompta ne zna nužno da je određeni ulaz došao od nepoznatog pošiljaoca preko Email-to-Case procesa. Zato zaštita nasleđenih agenata zahteva detaljno poznavanje host aplikacije: njenih dozvola, objekata, integracija, tokova automatizacije i izvora podataka.
City-Forum, aktivna globalna kampanja krađe podataka usmerena na Salesforce i ServiceNow instance od marta 2025, pronađena je upravo na granici između mogućnosti platformi i konfiguracija koje organizacije zaista koriste. Kako poslovni timovi sve lakše prave agente za izveštaje, usklađivanje faktura i druge zadatke, svaki agent preuzima dozvole koje mu omogućavaju rad. Rizik raste kada takvi alati rade bez stalnog nadzora, a agenti mogu pokretati stvaranje drugih agenata.
Od politike do proverljive operativne evidencije
Dokument o prihvatljivoj upotrebi, mesečni odbor ili skup principa ne odgovaraju na osnovna operativna pitanja: koliko agenata trenutno radi, čemu mogu da pristupe i ko je vlasnik svakog od njih. OWASP Agentic Skills Top 10 kategorijom „No Governance” ukazuje na problem veština postavljenih u platformama trećih strana, koje spoljašnji skeneri ne mogu da dosegnu.
Praktičan pristup počinje stalnim otkrivanjem agenata kroz konfiguracije aplikacija, OAuth dozvole, mrežu, krajnje tačke, metapodatke imejla i pregledače. Zatim slede merenje bezbednosnog položaja platformi, dodela identiteta i imenovanog vlasnika svakom agentu, praćenje načina upotrebe, najmanje privilegije, odobravanje ili karantin za nove agente i nadzor u radu. Kontrola u radu ima smisla tek kada se zasniva na podacima iz prethodnih slojeva.
EU AI Act predviđa kazne do 35 miliona evra ili 7% globalnog godišnjeg prometa za zabranjene prakse, odnosno do 15 miliona evra ili 3% za druge povrede. Ranije kazne za British Airways od 20 miliona funti i Marriott od 18,4 miliona funti pokazuju značaj mogućnosti da se usklađenost dokaže operativnim zapisima. Za poslovanje je zato ključno da inventar agenata, vlasništvo, konfiguracije i istorija provera budu stalno dostupni, jer se konfiguracijama može upravljati samo kada su vidljive.