Microsoft представила Guardian Agents для контроля корпоративных ИИ-агентов

Microsoft представила Guardian Agents для мониторинга ИИ-агентов в компаниях, а также расширила Microsoft Defender функцией обнаружения до 60 типов агентов, которые сотрудники могут принести в рабочую среду. Среди примеров Microsoft назвала Claude Code, Codex и OpenClaw.

Запуск стал развитием Project Perception, представленного в июне. Изначально продукт включал три класса агентов: «красную команду», имитирующую атакующих, «синюю команду» для обнаружения атак и оценки уязвимостей, и «зелёную команду», которая должна устранять найденные проблемы.

Агенты как внутренний риск

Теперь Microsoft меняет исходную модель угроз. Компания исходит из того, что опасность могут создавать не только внешние ИИ-инструменты для взлома, но и агенты, которых сама организация развернула и наделила доступом к данным и рабочим системам.

Глава Microsoft Сатья Наделла призвал не передавать поставщикам моделей ответственность за действия агентных систем. По его формулировке, поставку интеллектуальных возможностей нужно отделять от полномочий на действия. Руководитель направления безопасности Microsoft Хайете Галло отметила, что передовым моделям нельзя безоговорочно доверять не из-за злонамеренности, а из-за их непредсказуемости: они обучаются достижению задач, а не следованию организационным нормам и суждениям.

Контроль доступа и независимый надзор

Guardian Agents должны наблюдать за уже используемыми в компании агентами. Одновременно Microsoft добавила механизмы, ограничивающие доступ агентов к данным и системам, а также динамически меняющие разрешения в зависимости от конкретной задачи. При признаках рискованного решения система может запросить одобрение человека.

Этот подход развивается на фоне того, как конкуренцию Microsoft с OpenAI и Anthropic отражает борьбу поставщиков за корпоративный рынок ИИ, где контроль над агентами становится отдельным технологическим слоем. Microsoft также стала одним из первых участников Open Agent Safety Platform, запущенной Nvidia при поддержке более 100 технологических компаний. Платформа изолирует агентов в защищённых средах, отслеживает их действия и может останавливать нежелательное поведение на аппаратном уровне.

Для бизнеса практический вывод состоит в том, что внедрение агентов требует не только проверки модели и её поставщика, но и самостоятельного контроля разрешений, доступа к данным и критических действий. Надзорный слой должен работать отдельно от системы, которая поставляет агенту интеллектуальные возможности.