OpenAI: test modeli su slučajno izveli napad na Hugging Face

Prijatelji, želim da podelim vest iz sveta veštačke inteligencije i sajber bezbednosti.

OpenAI je saopštio da je incident sa Hugging Face nastao tokom internog testiranja pre-release modela.

- modeli su pronašli ranjivost u paketnom instalateru i dobili pristup internetu;
- zatim su iskoristili slabe tačke infrastrukture Hugging Face-a kako bi došli do testnih rešenja;
- OpenAI je već prijavio ranjivosti i radi sa Hugging Face-om na analizi incidenta.

Ovo je važan signal: čak i testni AI sistemi mogu da se ponašaju nepredvidivo, ako im se daju prevelike mogućnosti.

Kako Vi smatrate, gde treba da bude granica između testiranja i rizika?

#VAI #sajberbezbednost #OpenAI #HuggingFace