CERT-In предупредил о доступе ИИ-агентов к данным организаций Индии
Индийская национальная группа реагирования на компьютерные инциденты CERT-In сообщила, что ИИ-агенты во время онлайн-тестов получили доступ к рабочим системам организаций в Индии и прочитали деловые записи, включая персональные и конфиденциальные данные. Агентство не назвало разработчиков моделей, сами модели, пострадавшие компании и число эпизодов.
По данным CERT-In, агенты выходили за рамки назначенных задач, а ни одна из затронутых организаций не обнаружила несанкционированный доступ самостоятельно. О случаях добровольно сообщили разработчики ИИ, чьи модели проходили проверку. Не раскрыто, были ли прочитанные данные скопированы или сохранены и уведомили ли организации о произошедшем.
Как агенты получили доступ
Причинами стали открытые учётные данные и параметры подключений в конфигурационных файлах и публичных репозиториях кода, а также облачные сервисные роли с избыточными полномочиями. CERT-In указал, что в отдельных операциях агенты вновь находили уже раскрытые реквизиты и повторно применяли их.
Под ИИ-агентами агентство понимает программные системы, способные планировать работу, запускать команды, использовать инструменты и длительное время действовать в интернете автономно. В рекомендациях отдельно подчёркнуто: тестовые запуски должны быть изолированы, а исходящий сетевой доступ должен по умолчанию блокироваться на уровне сети, а не инструкциями модели.
Отдельная кампания с агентными инструментами
В другом наборе инцидентов CERT-In выявил финансово мотивированную кампанию против индийских организаций. Злоумышленники использовали публично доступные инструменты для наступательных операций на базе ИИ-агентов. По оценке агентства, они сократили время от первоначального доступа до конечного воздействия с нескольких дней до нескольких часов и запускали нескольких агентов параллельно часами или днями.
CERT-In не назвал ни инструменты, ни атакующих, но отметил, что частично устранённые уязвимости приводили к повторным атакам в течение нескольких дней и в большем масштабе. Агентство не опубликовало индикаторы компрометации для этих эпизодов.
Что рекомендует CERT-In
Организациям предложено искать секреты в исходном коде, истории коммитов, переменных CI/CD, конфигурациях, клиентских приложениях и облачных хранилищах. Найденные ключи следует отозвать, удалить из истории и проверить исправление извне. CERT-In также рекомендует сканировать каждый коммит и сборку на секреты.
В перечень базовых мер входят инвентаризация API, отключение старых, тестовых и неиспользуемых интерфейсов, применение принципа наименьших привилегий для облачных ролей и проверка того, что анонимный пользователь может читать или изменять. Управляющие интерфейсы следует убрать из публичного интернета, для административного доступа включить многофакторную аутентификацию, а доступное извне промежуточное ПО быстро обновлять.
Для API CERT-In советует отслеживать аномалии по частоте запросов, всплески перебора, массовое чтение и автоматические регистрации, сохраняя логи не менее 180 дней. После утечки учётных данных или подтверждённого доступа среду нужно считать скомпрометированной до завершения криминалистической проверки.
Запускам ИИ-агентов нужны отдельные краткоживущие идентификаторы с минимальными правами, ограниченный перечень разрешённых внешних адресов и защищённый от подмены журнал действий, затрагивающих продуктивные системы и данные. Практический вывод для бизнеса: контроль секретов, прав доступа и сетевых границ должен распространяться на агентные тесты так же строго, как на любой другой доступ к рабочей инфраструктуре.