Автономный AI-агент атаковал Hugging Face: важный урок для защиты

Коллеги, хочу обратить внимание на инцидент в сфере кибербезопасности: Hugging Face сообщил о взломе автономным AI-агентом.

Злоумышленник получил доступ к части внутренних датасетов и сервисных учётных данных. Публичные модели, датасеты и Spaces, по данным компании, не затронуты.

Точка входа была в pipeline обработки данных: вредоносный датасет дал исполнение кода, после чего атакующий добрался до узлов, собрал креды и усилил доступ. Компания закрыла дыру, отозвала токены и усилила контроль.

Почему это важно: для форензики нужен свой модельный контур, иначе можно упереться в guardrails hosted-моделей. Что Вы думаете? #кибербезопасность #AIsecurity #IncidentResponse