NebuSec demonstrirao kompromitovanje Meta Muse preko jedne stranice

Bezbednosna firma NebuSec demonstrirala je da jedna zlonamerna veb-stranica može da preuzme privatne razgovore i sačuvane memorije korisnika Meta Muse, bez prikazivanja zahteva za odobrenje. Istraživanje je izvedeno u laboratoriji, ostalo je u okviru cloud mašine pojedinačnog korisnika, a NebuSec navodi da je Muse tim ispravio sve opisane propuste pre objavljivanja nalaza.
Muse je Metin lični AI agent, predstavljen 8. septembra, koji radi preko online naloga koje korisnik poveže i može da obavlja kupovine u njegovo ime. Svaki agent radi na zasebnom cloud računaru, dok je Sentinel zamišljen kao nadzorni sloj i jedina kontrolna tačka za podatke koje agent šalje van okruženja.
Od stranice do kontrole cloud računara
Prema tehničkom opisu NebuSeca, stranica koju agent otvori mogla je da pošalje istoriju razgovora i memorije na eksterni server, ali i da ih izmeni. Za taj korak korisniku nije prikazan nikakav upit za potvrdu.
Istraživači su zatim povezali propust u ugrađenom pregledaču Musea, koji se koristi i za zadatke poput izrade PDF dokumenata, sa ranjivošću u Linux kernelu. Taj lanac im je omogućio potpunu kontrolu nad korisnikovom cloud mašinom.
Takva kontrola obuhvatila je skladište kredencijala, sačuvane fajlove i Sentinel, odnosno komponente koje bezbednosni model pokušava da odvoji od samog agenta. NebuSec navodi da kompromitovanje nije prešlo granicu te pojedinačne mašine: istraživači nisu izašli na zajednički server ispod nje niti su pristupili mašinama drugih korisnika.
Šta nalaz govori o izolaciji AI agenata
Muse je projektovan uz pretpostavku da bi agent mogao da bude iskorišćen protiv korisnika, pa su ograničenja štete deo osnovnog dizajna. NebuSec ističe da su kontrole izolacije radile kako je predviđeno, ali da je lanac ipak dosegao zaštićene komponente unutar iste cloud mašine.
Ovaj nalaz se razlikuje od ranijeg propusta u Museu otkrivenog u septembru, kada je zlonamerni softver koji je već bio na korisnikovom Macu mogao da preuzme asistenta na uređaju. Novi rad se odnosi na cloud sistem iza asistenta.
NebuSec kaže da je propuste prijavio Muse timu i da su svi eksploati ispravljeni pre objave. Meta nije javno potvrdila zakrpe niti komentarisala istraživanje, a tehnički opis ne navodi da li je bilo čijih podataka pre zakrpljivanja.
Za poslovanje je ključna pouka da AI agenti sa pristupom nalozima, dokumentima i plaćanjima zahtevaju proveru stvarnih granica izolacije, uključujući pregledač, sistemske privilegije i skladišta tajni. Bezbednosne kontrole treba posmatrati kao celinu, jer lanac više propusta može zaobići zaštitu i kada pojedinačni slojevi rade prema specifikaciji.

