OpenAI i NASK pokreću saradnju na bezbednosti napredne AI
OpenAI i poljski Nacionalni istraživački institut NASK potpisali su sporazum o saradnji na bezbednosti, sigurnosti i tehničkom istraživanju AI. NASK-ov Centar za istraživanje AI bezbednosti, koji ima ulogu poljskog Instituta za bezbednost veštačke inteligencije, radiće sa OpenAI na proceni sve sposobnijih sistema, pronalaženju mogućih ranjivosti i jačanju zaštitnih mera.
Poljsko istraživanje u međunarodnom okviru
Partnerstvo okuplja stručnost javne istraživačke ustanove i razvijača naprednih AI sistema. Cilj je bolje razumevanje novih rizika i ispitivanje načina na koje napredna AI može doprineti sigurnijem i otpornijem digitalnom ekosistemu.
NASK navodi da njegov rad obuhvata zaštitu od novih rizika, prepoznavanje sintetičkog sadržaja koji generiše AI, proučavanje zlonamernih upotreba i višejezične aspekte tih izazova. Institut taj rad povezuje i sa zaštitom javnih službi i poljskog digitalnog informacionog ekosistema.
OpenAI naglašava da saradnja javnih instituta za bezbednost AI i kompanija koje razvijaju napredne modele omogućava nezavisnije preispitivanje pretpostavki, testiranje sistema i unapređivanje zaštita. U tom širem institucionalnom kontekstu, upravljački okvir OpenAI Foundation pokazuje da se upravljanje bezbednošću AI razvija i kroz formalne uloge nadzora.
Iskustvo CERT Polska sa ranjivostima
Sporazum se nadovezuje na postojeći rad OpenAI sa poljskim stručnjacima za sajber-odbranu. CERT Polska, koji posluje u okviru NASK-a, dobio je u julu pristup OpenAI modelima sa sajber sposobnostima kroz program Daybreak.
Tim je modele koristio pri otkrivanju šest ranjivosti u MikroTik RouterOS-u. Među njima su bile greške koje je bilo moguće spojiti kako bi se preuzela kontrola nad pogođenim uređajima bez autentifikacije. Proizvođač je objavio ispravke, a CERT Polska je potvrdio da su sprečile napade koje je posmatrao.
Zajedničke metode za procenu rizika
OpenAI već sarađuje sa američkim Centrom za unapređenje standarda i inovacija za superinteligenciju, britanskim Institutom za bezbednost AI i drugim javnim istraživačkim ustanovama. Kompanija se zalaže za međunarodne tehničke standarde za naprednu AI, uz zajedničke pristupe proceni sposobnosti, ocenjivanju rizika, testiranju zaštita i prijavljivanju incidenata.
Za organizacije koje uvode AI, ovaj dogovor podseća da bezbednost nije samo pitanje izbora modela. Potrebno je redovno proveravati zaštitne mere, evidentirati incidente i uključivati stručne institucije kada sistemi obrađuju osetljive procese ili informacije.