Навык прошёл сканеры и установился на тысячи агентов — выводы для защиты AI

Коллеги, хочу обратить внимание: в сфере кибербезопасности AIR разместила фальшивый навык brand-landingpage, который, по заявлению компании, дошёл до ~26 000 агентов, в том числе на корпоративные аккаунты (не подтверждено).

Суть:
- Сканеры проверяют только пакет навыка; внешние URL, на которые он ссылается, не анализируются.
- AIR использовала доверительные сигналы — GitHub stars и рекламу — чтобы стимулировать установки.
- После установки внешняя страница была заменена; навык собирал email и мог бы выполнять более опасные действия с правами агента.

Рекомендации: трактовать навыки как ПО — верифицировать внешние URL, фиксировать версии, минимизировать привилегии и аудитировать уже установленные навыки.

Почему это важно: единичный сканер не гарантирует безопасность, если навык загружает инструкции извне.

Какие шаги Вы считаете приоритетными в своей организации?

#кибербезопасность #AI #supplychainsecurity #agentsecurity