Poisoned MCP: как описание инструмента может утечь данные

Poisoned MCP: kako opis alata može da otkrije podatke

Kolege, želim da skrenem pažnju na temu iz sajber bezbednosti: Microsoft upozorava na poisoned MCP tool descriptions.

U ovome vidim važan signal za sve koji AI agentima daju pristup poslovnim sistemima.
- Izmena opisa MCP alata može prikriveno da navede agenta da pošalje podatke spolja.
- Opasnost je u tome što svaka radnja deluje legitimno: alat je pouzdan, zahtev je uobičajen.
- Rizik leži na granici poverenja između agenta i spoljne usluge.

Šta raditi: ograničiti listu alata, proveravati izmene opisa, zahtevati potvrdu za rizične radnje i voditi evidenciju aktivnosti.

Zašto je to važno: agentic AI postaje deo lanca snabdevanja i mora se kontrolisati strogo, kao kod i pristupi.

Da li ste već revidirali politiku za MCP i AI agente?
#sajberbezbednost #AI #MCP #lanacsnabdevanja