Kolege, želim da skrenem pažnju: AI pregledači mogu biti prevareni i naterani da otkriju prijave

Kolege, želim da skrenem pažnju na vest iz sajber bezbednosti.

LayerX je prikazao BioShocking: zlonamerna stranica može ubediti AI pregledač da „igra po pravilima“ i prosledi pristupne podatke napadaču.

Problem je što agentski režim meša instrukcije stranice i korisnika. Tako deluje indirektna prompt injekcija.

U testu je obuhvaćeno šest AI pregledača i pomoćnika, uključujući ChatGPT Atlas, Comet i Claude ekstenziju. U jednom scenariju agent je došao do GitHub-a i poslao SSH podatke napolje.

Zašto je to važno: AI pregledač u agent režimu dobija pristup istim nalozima kao i korisnik.

Za sebe zaključujem: ograničiti pristup, isključiti agent režim bez potrebe i proveravati ovlašćenja agenta.

Kako Vi kontrolišete AI pregledače u radu?
#sajberbezbednost #AIBrowser #PromptInjection #Bezbednost