AI menja ravnotežu između zakrpljivanja i državnog hakovanja
Rasprava koju je početkom avgusta pokrenuo profesor kriptografije Matthew Green otvara pitanje da li bi AI mogao da smanji broj softverskih propusta do mere koja bi organima reda i obaveštajnim službama otežala zakonito hakovanje uređaja osumnjičenih. Green smatra da bi brže otkrivanje i zakrpljivanje ranjivosti moglo ugroziti sadašnji oslonac država na takve propuste.
U središtu debate nisu samo modeli velikih jezika, već odnos između snažne enkripcije, bezbednosti krajnjih uređaja i mogućnosti nadzora. Ako se lako dostupne ranjivosti brže uklanjaju, raste pitanje da li će se ponovo pojačati zahtevi za ugrađenim posebnim pristupom, odnosno bekdorima.
Od „going dark” do kupovine eksploatacija
Debata o tome da enkripcija otežava istrage dobila je širu pažnju 2014. godine, kada je tadašnji direktor FBI-ja James Comey upozoravao na fenomen „going dark”. Signal, WhatsApp i Apple iMessage su u međuvremenu široko uveli end-to-end enkripciju, dok je Apple podatke na uređajima počeo da štiti enkripcijom podrazumevano.
Umesto opšteg ugrađivanja bekdora, države su ulagale u alate za hakovanje i špijunski softver koji iskorišćavaju bezbednosne propuste na uređajima. Green taj model opisuje kao nestabilan kompromis: privatnost korisnika ostaje zaštićena enkripcijom, a vlasti u pojedinim slučajevima pokušavaju pristup preko eksploatacija.
Da li AI iscrpljuje ili proširuje tržište propusta
Luna Tong ocenjuje da je sada prisutna „zlatna groznica” za propustima, ali da bi ona mogla biti privremena ako AI ubrza njihovo pronalaženje. Neimenovani istraživač sa iskustvom u ofanzivnoj bezbednosti deli bojazan da bi automatizacija mogla otežati rad ljudskim istraživačima i postepeno dati prednost odbrani.
Paolo Stagno iz kompanije Crowdfense navodi da nijedna država neće lako odustati od mogućnosti nadzora. Po njegovom tumačenju, oslanjanje na ranjivosti je trenutno najdemokratskiji raspoloživi sistem, ali bi postojeći odnos mogao da se promeni ako propuste postane znatno teže pronaći.
Drugi sagovornici iz ofanzivne bezbednosti ne očekuju nestanak vrednih ranjivosti. Njihov argument je da će AI olakšati nalaženje jednostavnijih grešaka, dok će složeni propusti, korisniji za ciljane upade, ostati prisutni. Hamid Kashfi iz DarkCell-a i Xbow-a smatra da uz svaki propust koji AI pronađe i prijavi postoji mnogo neprijavljenih propusta.
Brzo zakrpljivanje ostaje poslovni prioritet
Eva Galperin iz Electronic Frontier Foundation ukazuje da više pronađenih propusta ne znači automatski i brzo zakrpljivanje, jer taj proces može biti složen. Ona istovremeno navodi da AI alati za razvoj mogu uneti i nove ranjivosti kroz takozvani „vibe-code” pristup.
Katie Moussouris iz Luta Security podseća da telefoni i laptopovi još nisu bez grešaka, ali očekuje da bi znatno teže pronalaženje propusta moglo obnoviti pritiske za bekdore. Za organizacije je praktičan zaključak jasan: bez obzira na ishod ove debate, potrebno je održavati disciplinu upravljanja zakrpama, bezbednog razvoja i zaštite uređaja, jer enkripcija ne zamenjuje uklanjanje poznatih slabosti.