Claude pomogao istraživačima da otkriju propuste u OpenAI
Tim od tri bezbednosna istraživača iz startapa Hacktron AI iskoristio je Anthropicov Claude da poveže dve kritične ranjivosti i pristupi većem broju ChatGPT naloga zaposlenih u OpenAI. Istraživanje je sprovedeno u okviru OpenAI programa za nagrađivanje prijavljenih propusta, a Hacktron AI je dobio nagradu od 6.500 dolara. OpenAI navodi da je rešio prijavljene probleme.
Ulaz kroz obradu slika na forumu
Istraživači su 25. jula pronašli put kroz OpenAI zajednički forum zasnovan na softveru Discourse. Početna tačka bio je naizgled rutinski upload HEIF ili HEIC slike, formata koji iPhone uređaji podrazumevano koriste.
Pri pretvaranju tih fajlova u JPEG, Discourse je koristio ImageMagick, koji je dekodiranje Apple formata prepuštao biblioteci libheif. U libheif-u je postojala greška u radu sa memorijom: posebno pripremljena slika mogla je da navede biblioteku na pogrešan obračun položaja jedne slike preko druge i omogući preuzimanje servera.
Programeri libheif-a su propust ispravili nekoliko meseci pre incidenta, ali ispravka nije bila formalno označena kao ranjivost i nije dobila CVE oznaku. Hacktron AI zato smatra da je softver koji koristi Discourse ostao na pogođenoj verziji. Ovaj slučaj pokazuje da praćenje zakrpa ne može da se osloni samo na CVE katalog.
Od servera do povezanih naloga
Nakon pristupa Discourse serveru, tim je pronašao još jedan propust koji je omogućio preuzimanje korisničkih ChatGPT i Codex naloga, uključujući naloge zaposlenih u OpenAI. Prema sažetku Hacktron AI, jedan preuzeti nalog imao je Codex povezan sa GitHub organizacijom kompanije OpenAI.
Istraživači su obavestili OpenAI i Discourse, a Discourse je objavio ispravku 27. jula. Nalaz dolazi u trenutku kada se među akterima kao što su Anthropic i OpenAI na AI Stage TechCrunch Disrupt 2026 bezbednosne procene AI sistema sve više izdvajaju kao važna tema razvoja i upravljanja rizikom.
Model je ubrzao izradu eksploata
Hacktron AI navodi da posebna verzija Claude Opus 4.8 namenjena istraživačima sajber-bezbednosti u početku nije uspevala da napravi funkcionalan eksploat. Isti zadatak je, po objavljivanju Claude Opus 5, uspešno rešen u roku od nekoliko sati.
Za poslovne timove praktičan zaključak nije samo potreba za redovnim ažuriranjem javno izloženih sistema. Potrebni su i inventar svih zavisnosti, praćenje izmena van CVE evidencije, ograničavanje privilegija povezanih naloga i brza provera lanca konverzije fajlova, jer AI alati mogu skratiti vreme potrebno za pronalaženje i iskorišćavanje ovakvih propusta.