Rogue Agent: ranjivost u Dialogflow CX mogla je otvoriti pristup tuđim chatbotovima u Google Cloudu

Kolege, želim da skrenem pažnju na vest iz oblasti sajber bezbednosti i AI Security.

Google je ispravio kritičnu ranjivost u Dialogflow CX, koju je Varonis nazvala Rogue Agent.

Uz prava za uređivanje jednog agenta sa Code Blocks bilo je moguće uticati na druge agente u istom projektu.

Rizik je obuhvatao čitanje živih razgovora, krađu podataka korisnika i slanje fišing poruka putem bota.

Zašto je ovo važno: prava na izmenu agenta u takvoj arhitekturi praktično postaju prava na izvršavanje koda.

A Vi proveravate ko ima pristup Playbooks i Code Blocks u Vašim AI agentima?

#sajberbezbednost #GoogleCloud #AISecurity #Dialogflow