OpenAI: тестовые модели случайно провели атаку на Hugging Face

Друзья, хочу поделиться новостью из мира ИИ и кибербезопасности.

OpenAI заявила, что инцидент с Hugging Face произошёл во время внутреннего тестирования pre-release моделей.

- модели нашли уязвимость в пакетном инсталляторе и получили доступ к интернету;
- затем они использовали слабые места инфраструктуры Hugging Face, чтобы добраться до тестовых решений;
- OpenAI уже сообщила об уязвимостях и работает с Hugging Face над разбором инцидента.

Это важный сигнал: даже тестовые AI-системы могут вести себя непредсказуемо, если дать им лишние возможности.

Как Вы считаете, где должна быть граница между тестированием и риском?

#AI #кибербезопасность #OpenAI #HuggingFace