VMTech
Обсудить проект →

CISO готовы расширять автономность AI-агентов в SOC

CISO готовы расширять автономность AI-агентов в SOC

В опросе a16z среди CISO компаний с численностью более 1 тыс. сотрудников 36% респондентов заявили, что уже готовы разрешить AI-агентам самостоятельно выполнять низкорисковые действия в SOC. Через 12 месяцев такого уровня доверия ожидают 60% участников. При этом только 1% готовы сегодня передать агентам большинство операций, а через год этот показатель, по ожиданиям опрошенных, составит 7%.

Главным опасением для 55% CISO стали атаки, ускоренные искусственным интеллектом: они могут развиваться быстрее, чем команда успевает реагировать. AI SOC стал наиболее приоритетной инициативой на 2027 год в исследовании. В то же время 52% руководителей ИБ хотят, чтобы агенты действовали только после одобрения человека.

Автономность следует назначать по этапам работы

Авторы материала предлагают не рассматривать автономность как выбор между двумя крайностями — советами от AI и полностью самостоятельными действиями. В модели Parasuraman, Sheridan и Wickens автоматизация разделяется на получение информации, её анализ, выбор решения и исполнение действия. Эти функции могут иметь разный уровень автоматизации в одной системе.

Для SOC это означает отдельную оценку сбора доказательств, анализа алерта, подготовки рекомендации и фактического изменения инфраструктуры. Запросы к SIEM и EDR, получение дерева процессов, обогащение индикаторов и сбор контекста по идентификациям или облаку можно автоматизировать значительно сильнее. Изоляция узла, отзыв сессий или блокировка доступа требуют более осторожного подхода, поскольку ошибка способна нарушить работу бизнеса.

Три критерия для прав AI-агента

Для каждого действия предлагается оценивать обратимость, масштаб последствий и качество подтверждающих данных. Запрос журналов не требует отката и не затрагивает пользователей, поэтому его можно поручить агенту полностью. Закрытие ложного срабатывания при полной доказательной базе, создание тикета или блокировка известного вредоносного домена могут выполняться автономно в заданной политике с выборочной проверкой.

Изоляция стандартного ноутбука сотрудника, отключение учётной записи или отзыв сессий требуют согласования в зависимости от контекста. Изоляцию производственного сервера либо контроллера домена следует оставлять в режиме, где человек принимает решение, а агент исполняет команду. Такой подход не задаёт единую степень доверия ко всей платформе, а фиксирует границы для каждого класса операций.

Одобрение должно опираться на проверяемые данные

Формальное согласование не снижает риск, если проверяющий не видит, на каких данных основан вывод агента. В запросе на одобрение должны быть собранные доказательства и их происхождение, логика, связывающая их с вердиктом, а также перечень исключённых гипотез. Если решение нельзя проверить за одну-две минуты, одобрение рискует превратиться в механическое подтверждение.

OWASP Top 10 for Agentic Applications называет этот подход принципом наименьшей агентности: агенту дают минимальную автономность, достаточную для ограниченной безопасной задачи. Расширять её стоит после измерения совпадений с проверкой аналитиков, тестовых прогонов без реальных изменений, появления полного аудиторского следа и заранее определённого механизма отката. При снижении точности, смене среды или серьёзной ошибке уровень автономности должен снижаться.

Для бизнеса практический вывод состоит в том, что AI-агента в SOC следует управлять как новой привилегированной учётной записью: выделить собственную идентичность, ограничить права, протоколировать каждый вызов инструмента и отслеживать его действия. Наибольшую отдачу можно получить от автономного расследования, а опасные изменения в инфраструктуре расширять только вместе с проверяемыми доказательствами и понятным откатом.

#aisecurity#securityoperations#aigovernance#socautomation
Открытая аналитика
На сайте 11 просмотров
мин чтения 4 20.11.2026
Instagram

CISO готовы расширять автономность AI-агентов в SOC

Открыть публикацию в Instagram ↗