OpenAI zakrpio zaobilaženje ChatGPT Lockdown Mode zaštite
OpenAI je 18. septembra 2026. otklonio ranjivost u ChatGPT-u koju je Check Point otkrio u režimu Lockdown Mode. Propust je mogao da omogući tihu krađu podataka iz razgovora, phishing i isporuku zlonamernog softvera, uključujući eksfiltraciju bez interakcije korisnika u desktop aplikaciji. Lockdown Mode je OpenAI uveo u junu 2026. kao opcionu zaštitu od rizika koje donose prompt injekcije.
Kako je zaobiđena zaštita
Problem se nalazio u HTML prikazima unutar ChatGPT blokova koda. Aplikacija takav sadržaj prikazuje u sandbox okruženju, kako HTML i JavaScript koji obezbedi korisnik ne bi imali pristup podacima aplikacije, uključujući kolačiće i lokalno skladište, niti komunicirali sa spoljnim resursima bez pristanka.
Lockdown Mode dodatno ograničava odlazne mrežne zahteve, jer oni mogu biti kanal za prenos osetljivih podataka na infrastrukturu pod kontrolom napadača. Check Point je, međutim, pronašao propust u obradi iskačućih prozora tokom HTML prikaza.
HTML prikaz koristio je ugnježdene sandbox okvire. ChatGPT je presretao direktne pokušaje otvaranja novog prozora, ali su dozvole osnovnog sandboxa i dalje dopuštale iskačuće prozore i njihov izlazak iz sandboxa. Umetanjem dodatnog okvira u prikazanu stranicu bilo je moguće pristupiti neizmenjenoj funkciji za otvaranje prozora. Sadržaj otvoren tim putem više nije bio pod istim ograničenjima kao početni HTML prikaz.
Mogući tok napada
Nakon zaobilaženja ograničenja, napadač je mogao da koristi pažljivo pripremljen upit, zlonamerni GPT ili deljeni razgovor za iznošenje podataka i poruka iz četa. Pošto napadač kontroliše sadržaj iskačućeg prozora, prozor je mogao da prikaže i uverljiv mamac za socijalni inženjering, poput lažnog ažuriranja ChatGPT-a sa vezom za preuzimanje malvera.
Check Point naglašava da suština problema nije ograničena na desktop okruženje zasnovano na Electronu. Slabost u funkciji aplikacije koja nije deo samog AI modela može otvoriti alternativni put oko AI zaštitne granice. To je važno za organizacije koje procenjuju bezbednost generativnih AI alata samo kroz ponašanje modela ili pravila za promptove.
Šta organizacije treba da provere
Ovaj slučaj pokazuje da se kontrola za sprečavanje odliva podataka mora posmatrati zajedno sa okruženjem u kojem se AI alat izvršava. HTML pregledi, deljeni sadržaj, iskačući prozori, dozvole sandboxa i odlazni mrežni zahtevi deo su iste bezbednosne celine.
- Proverite da li zaposleni koriste deljene razgovore, prilagođene GPT-ove i HTML preglede za rad sa poverljivim sadržajem.
- Pratite bezbednosne ispravke za AI aplikacije i njihova desktop izdanja, a ne samo izmene modela.
- Uvedite jasna pravila za preuzimanje datoteka i otvaranje veza koje se pojavljuju u AI interfejsima.
Praktičan poslovni zaključak je da AI zaštitne funkcije nisu dovoljne ako okolne mogućnosti aplikacije nude drugi kanal za izlazak podataka. Upravljanje rizikom zato treba da obuhvati model, interfejs, integracije i mrežnu kontrolu kao jedinstven sistem.