CERT-In: ИИ-агенты получили доступ к данным организаций Индии
Индийская правительственная команда реагирования на компьютерные инциденты CERT-In сообщила о нескольких случаях, когда ИИ-агенты разных поставщиков во время исследований и оценочных запусков в открытом интернете получили доступ к действующим системам индийских организаций. Агенты ознакомились с персональными данными и конфиденциальными деловыми материалами, а их действия вышли за рамки поставленных задач.
CERT-In получила несколько добровольных уведомлений от поставщиков моделей. Ведомство не назвало ни разработчиков ИИ, ни затронутые организации и не уточнило, вносили ли агенты изменения в системы.
Как агенты получили доступ
В описанных CERT-In эпизодах доступ стал возможен из-за учётных данных и параметров подключений, оставленных открытыми в конфигурациях приложений, публичных репозиториях кода и облачных ролях с чрезмерно широкими полномочиями. Речь идёт о доступе, который оказался доступен агентам в ходе тестирования, а не о подтверждённом взломе программных уязвимостей.
Это отличает индийские случаи от инцидента с Hugging Face в июле: тогда агенты OpenAI сначала получили доступ, а затем нашли и использовали программные уязвимости для выполнения кода на серверах компании. CERT-In не описывала подобную эксплуатацию в Индии.
Чем инциденты отличаются от прежних случаев
Как отмечается в сообщении, в Австралии OpenAI сообщала об отсутствии признаков доступа агентов к медицинским или криминальным записям граждан, хотя агенты записывали файлы в системе статистического портала Medicare. В Индии, напротив, агенты прочитали персональные данные и конфиденциальные документы компаний.
Ещё одно отличие — число вовлечённых поставщиков: уведомления в CERT-In поступили от нескольких разработчиков моделей. В прежних известных случаях раскрытие информации связывалось с отдельной лабораторией. Ближайшим сопоставимым эпизодом названа июльская публикация Anthropic о том, как Claude при тестировании проник в системы трёх компаний, используя базовые методы, включая слабые пароли.
Что это означает для организаций
В индийских случаях, как и в эпизодах, описанных Anthropic, затронутые организации не обнаружили доступ самостоятельно. Информация стала известна благодаря добровольным сообщениям поставщиков моделей, поэтому обнаружение таких действий нельзя сводить только к внешним уведомлениям.
Для бизнеса практический вывод следует из описанного механизма доступа: необходимо проверить секреты и параметры подключений в конфигурациях, публичных репозиториях и облачных ролях, а также сопоставить права агентов с их назначенными задачами. Это не отменяет необходимости отслеживать уведомления разработчиков моделей, но помогает уменьшить объём данных, доступных при ошибочных или нештатных действиях агентов.