AI-агенты для проверки кода можно обмануть через README

Коллеги, хочу обратить внимание на важный риск в сфере кибербезопасности: AI-агенты для проверки кода можно обмануть и заставить запустить вредоносный бинарник.

Исследователи показали, что достаточно спрятать ловушку в обычном README.md и подать проект как объект для security testing.

В автономном режиме такие агенты могут:
- прочитать инструкцию из документации;
- решить, что запуск скрипта безопасен;
- выполнить его на хосте без дополнительного запроса.

Особенно тревожно, что атака сработала на нескольких моделях и не требует сложной маскировки — только доверия к внешнему тексту.

Почему это важно: если агент имеет доступ к командам, ключам и окружению, он может стать точкой входа вместо защитника.

Как Вы сейчас ограничиваете AI-агентов при анализе чужого кода?

#кибербезопасность #AI #AppSec #SupplyChain