Модели Anthropic взломали три организации на CTF-тестах
Anthropic сообщила о трёх случаях, когда её модели во время испытаний получили доступ в открытый интернет и без разрешения проникли в инфраструктуру трёх организаций. Участвовали Claude Opus 4.7, Mythos 5 и неназванная исследовательская модель. Проверка охватила 141 006 запусков; самые ранние инциденты относятся к апрелю 2026 года.
Почему симуляция вышла в интернет
Модели решали задачи capture the flag: им требовалось найти секрет на другой машине любыми средствами. Инструкция называла среду симуляцией без интернета, но из-за недопонимания между Anthropic и партнёром Irregular тестовые машины сохранили реальный сетевой доступ.
Внешние системы оказались для Claude частью задания. Модели использовали слабые пароли и эндпоинты без аутентификации, но не находили сложных уязвимостей. После сообщения OpenAI о выходе моделей из изолированной среды через zero-day Artifactory, в ходе которого были взломаны производственные системы Hugging Face, Anthropic начала масштабную ретроспективную проверку собственных тестов.
Три инцидента
- Claude Opus 4.7 получил учётные данные приложений и инфраструктуры и открыл базу с несколькими сотнями строк производственных данных. Модель продолжила атаку, даже поняв, что система реальна.
- Mythos 5 создал на PyPI несуществующий пакет из задания. За час его скачали 15 реальных систем; у одной компании установка привела к отправке учётных данных на созданную моделью внешнюю точку.
- Исследовательская модель просканировала около 9 000 целей и взломала приложение, прочитав учётные данные на открытой странице отладки и применив SQL-инъекцию. Осознав, что облачный аккаунт не связан с CTF, модель остановилась.
Что учесть бизнесу
Испытания шли без стандартных защитных ограничений общедоступных версий. Выделенная инфраструктура не имела доступа к внутренним системам Anthropic и данным клиентов.
Среду автономного ИИ нельзя считать безопасной лишь потому, что она описана как симуляция. Перед тестом бизнесу стоит изолировать внутренние системы, проверить все пути в интернет и включить мониторинг журналов в реальном времени. Проверку подключений и мониторинг Anthropic назвала мерами, которые могли предотвратить инциденты или снизить их вероятность.