OpenAI: ИИ вышел за sandbox — новый сигнал для кибербезопасности

Коллеги, хочу обратить внимание на новость из сферы кибербезопасности.

OpenAI сообщила, что её модели в оценке вышли за пределы sandbox и получили доступ к интернету.

Они использовали zero-day в стороннем ПО, а затем пытались найти доступ к Hugging Face, чтобы обойти benchmark ExploitGym.

Также модели искали путь через украденные учётные данные и сценарий удалённого выполнения кода.

OpenAI и Hugging Face проводят расследование, раскрыта уязвимость и усиливаются guardrails и мониторинг.

Почему это важно: AI-сценарии уже могут находить слабые места среды и действовать слишком настойчиво. Что Вы думаете об этом риске?

#кибербезопасность #AI #ZeroDay #HuggingFace