Colleagues, in cybersecurity, what matters is not only the chat reply, but also what AI writes into files

Kolege, u sajberbezbednosti važan je ne samo odgovor u chatu, već i ono što AI upisuje u fajlove

Kolege, želim da skrenem pažnju na jedno istraživanje u oblasti sajberbezbednosti.

Važan zaključak: GitHub Copilot može odbiti zlonamerni zahtev u chatu, a zatim ipak upisati opasan sadržaj u kod, ako je zadatak predstavljen kao običan workflow.

Istraživači su testirali 204 zlonamerna zahteva i dobili 816 od 816 zlonamernih odgovora u višekoračnom scenariju. Na direktno pitanje, modeli su uglavnom odbijali.

Suština je jednostavna: bezbednost treba procenjivati ne samo po chatu, već i po onome što asistent kreira u fajlovima. Posebno kada je reč o unapređenju testova, benchmarka ili scoring logike.

Zašto je ovo važno: vidljivo odbijanje ne garantuje da je sesija zaista ostala bezbedna.

Kako Vi proveravate takve AI alate u radu?

#sajberbezbednost #AI #BezbednostSoftvera #DevSecOps