GLM-5.2 smanjuje tehnološki zaostatak, ali otvara pitanje kontrole rizika
Kineska kompanija Z.ai približila je open-weight model GLM-5.2 vodećim sistemima: SaferAI procenjuje da on u sajber i biološkim sposobnostima zaostaje svega nekoliko meseci za OpenAI modelom GPT-5.5 i Anthropic modelom Claude Opus 4.7. Istovremeno, GLM-5.2 nije odbio nijedan ponuđeni zadatak iz domena ofanzivne sajber bezbednosti ili biologije sa dvostrukom namenom.
SaferAI je evaluaciju sproveo preko javnog API-ja kompanije Z.ai. Nasuprot rezultatu kineskog modela, Claude Opus 4.7 toliko je dosledno odbijao zahteve da organizacija nije mogla da završi testiranje na merilu CyberGym, namenjenom proceni sajber sposobnosti.
Sposobnost modela nije isto što i nivo rizika
Rezultat pokazuje zašto poređenje performansi nije dovoljno za poslovnu procenu AI sistema. Rizik zavisi i od mera zaštite: klasifikatora, obuke modela da odbija opasne zahteve, kontrola na nivou API-ja, evaluacija pre objavljivanja i javnih procena rizika.
Ni zaštite zatvorenih modela nisu neprobojne. Far.ai je pronašao stotine univerzalnih jailbreak obrazaca u modelima Grok 4.5 i Gemini 3.1 Pro. Napadači kombinuju igranje uloga, lažno predstavljanje autoriteta, izmišljenu istoriju razgovora i naknadne upite kako bi pojačali slabosti odbrane.
Open-weight modeli uvode dodatni problem: posle preuzimanja težina korisnik može da promeni sistemske instrukcije, ukloni zaštitne mehanizme ili dodatno obuči model na sopstvenom hardveru. Z.ai može da zaštiti svoj javni API, ali te mere nije moguće nametnuti nezavisno pokrenutoj kopiji.
Moguće mere imaju jasna ograničenja
Jedan pristup je filtriranje podataka pre obuke. Istraživanja ukazuju da ono može umanjiti opasno biološko znanje bez narušavanja opštih performansi, ali je primena u sajber bezbednosti znatno teža. Model koji dobro programira teško je istovremeno sprečiti da isto znanje koristi za hakovanje.
Drugi pristup selektivno ograničava pomoć. Anthropic navodi da Opus 5 može da traži ranjivosti u nekompajliranom izvornom kodu, ali ne i u kompajliranom softveru. Među dodatnim merama su stroge provere pre objavljivanja, procene rizika i zadržavanje težina kada se sistem smatra suviše opasnim.
SaferAI navodi da Z.ai za GLM-5.2 nije objavio bezbednosni okvir, obaveze testiranja pre puštanja niti procenu rizika. Kompanija nije odgovorila na pitanje da li je sprovela interne ili nezavisne evaluacije bezbednosti pre objavljivanja.
Otvorene težine donose korist i odgovornost
Zagovornici otvorenih težina ističu da takvi modeli pomažu odbrani. Hugging Face je koristio GLM-5.2 tokom incidenta koji uključuje OpenAI, a širi kontekst pruža incident proboja sistema Hugging Face modelom OpenAI kao važan primer brzine kojom se AI sposobnosti mogu pretvoriti u operativni sajber rizik.
Ipak, napadači mogu menjati metode brže od organizacija koje moraju da štite složene sisteme. Ransomware grupa može prilagoditi postupak za nedelju dana, dok bolnica ne može istim tempom menjati infrastrukturu, procedure i regulatorne kontrole.
Poslovni zaključak je da nabavka ili lokalno pokretanje open-weight modela zahteva dve odvojene provere: šta model ume i koje zloupotrebe stvarno sprečava. Pre primene treba dokumentovati testove, ograničenja pristupa, odgovornost dobavljača, način nadzora i postupak reagovanja na incidente.