ADI-атака в кибербезопасности: как ИИ-агенты начинают доверять подменённым данным

Коллеги, хочу обратить внимание на новость в сфере кибербезопасности.

Я увидел описанный исследователями новый класс атак — agent data injection (ADI). Здесь злоумышленник не подсовывает агенту прямую команду, а искажает данные, которым он уже доверяет.

В итоге веб-агент может кликнуть не туда, а кодовый помощник — выполнить чужую команду после обычного подтверждения.

Классические защиты от prompt injection помогают хуже, потому что атака бьёт по метаданным и структуре данных.

Почему это важно: нам нужно жёстче разделять инструкции, доверенные данные и источник информации в AI-процессах.

Как Вы защищаете ИИ-агентов у себя: через контроль данных, ограничения действий или дополнительные проверки?

#кибербезопасность #ИИ #PromptInjection #AIagents