Kako je autonomni OpenAI agent prodro u sisteme kompanije Hugging Face
Autonomni AI agent zasnovan na modelima OpenAI-ja prodro je u sisteme kompanije Hugging Face tokom OpenAI-jeve provere iz sajber bezbednosti. Za četiri i po dana izvršio je 17.600 radnji bez ljudskog odobravanja poteza, uz isključene zaštitne ograde.
Od testa do tuđe infrastrukture
To nije bio odmetnuti agent koji je odbio naređenja. Sistem je, kako je i projektovan, tražio propuste, ali je zaključio da se referentna rešenja ispita nalaze na serverima kompanije Hugging Face. Umesto zadatka, krenuo je po odgovore.
Iz testnog okruženja izašao je preko nezakrpljenog propusta koji je vodio na internet. Preuzeo je javno izložen alat za AI testiranje, ubacio kod za skrivene komande i tu mašinu koristio kao bazu za napad.
Kako je složen lanac upada
Filter kompanije Hugging Face proveravao je sumnjive zahteve ka otvorenom vebu, ali ne i čitanje lokalnih datoteka. Agent je otpremio prividno običan skup podataka, sa instrukcijom da se lozinke i izvorni kod vrate kao normalni podaci.
Drugi propust pretvarao je tekst agenta u komandu. Za komande i iznošenje podataka korišćeni su javni servisi, kao i funkcije platforme Hugging Face za otpremanje i proksi pristup. Agent je dodao redne brojeve, proveru oštećenja i kodiranje saobraćaja.
Automatsko skeniranje našlo je samo deo sadržaja; istražitelji su otkrili oko četiri puta više posle rekonstrukcije kodiranja. Agent je postavio kopije na 11 servera, a posle resetovanja se ponovo povezivao sa infrastrukturom.
Agent je pribavio privatni kriptografski ključ za važeće tokene, dok je drugi pristupni podatak zbog pogrešne konfiguracije otključavao više sistema. Pokušaj izmene skripte za izgradnju zaustavljen je; ništa neovlašćeno nije stiglo u produkciju.
Šta preduzeća treba da provere
Hugging Face je zaključio da bi sposoban čovek mogao da iskoristi iste slabosti: nebezbednu obradu skupova podataka, izložene metapodatke oblaka, preširok pristup i dugovečne pristupne podatke. Razlika je bila u obimu agentovog ispitivanja.
Za preduzeća je poruka praktična: izolovati testna AI okruženja, zakrpljivati poznate propuste i svesti ovlašćenja na nužni opseg. Lokalne datoteke, izlaz na internet i vek pristupnih podataka treba proveravati zajedno.