Poisoned MCP: как описание инструмента может утечь данные

Коллеги, хочу обратить внимание на тему в сфере кибербезопасности: Microsoft предупреждает о poisoned MCP tool descriptions.

Я вижу в этом важный сигнал для тех, кто дает AI-агентам доступ к бизнес-системам.
- Подмена описания MCP-инструмента может скрытно направить агента на передачу данных наружу.
- Опасность в том, что каждое действие выглядит легитимным: инструмент доверенный, запрос обычный.
- Риск лежит на границе доверия между агентом и внешним сервисом.

Что делать: ограничивать список инструментов, проверять изменения описаний, требовать подтверждение для рискованных действий и вести журнал активности.

Почему это важно: agentic AI становится частью supply chain, и его нужно контролировать строго, как код и доступы.

А Вы уже пересматривали политику для MCP и AI-агентов?
#кибербезопасность #AI #MCP #supplychain