AI-agenti za proveru koda mogu biti obmanuti putem README

Kolege, želim da skrenem pažnju na važan rizik u oblasti sajber bezbednosti: AI agenti za proveru koda mogu biti obmanuti i navesti da pokrenu zlonamerni binarni fajl.

Istraživači su pokazali da je dovoljno sakriti zamku u običnom README.md i predstaviti projekat kao predmet za security testing.

U autonomnom režimu takvi agenti mogu:
- pročitati instrukcije iz dokumentacije;
- proceniti da je pokretanje skripte bezbedno;
- izvršiti je na hostu bez dodatnog pitanja.

Posebno je zabrinjavajuće što je napad uspeo na nekoliko modela i ne zahteva složeno maskiranje — samo poverenje u spoljašnji tekst.

Zašto je to važno: ako agent ima pristup komandama, ključevima i okruženju, može postati ulazna tačka umesto zaštitnika.

Kako Vi sada ograničavate AI agente pri analizi tuđeg koda?

#sajberbezbednost #AI #AppSec #LanacSnabdevanja