OpenAI pauzira deo razvoja Astre zbog sajber rizika

OpenAI je objavio da je obustavio rad na pojedinim aspektima budućeg modela Astra, nakon interne procene njegovog napretka u agentskom programiranju i sajber-bezbednosti. Kompanija navodi da je Astra dostigla „kritični prag sajber-bezbednosti“, što je pokrenulo dodatne mere u okviru njenog programa Preparedness Framework iz 2023. godine.

Preliminarne procene pokazuju dovoljno snažne rezultate da OpenAI trenutno ne može da isključi kritični nivo sposobnosti modela. Takav nivo, po opisu kompanije, podrazumeva mogućnost da sistem samostalno prepozna i sprovede sajber-napade na stvarne sisteme koji su tradicionalno dobro zaštićeni.

Razvoj se ne prekida u celini

Astra je i dalje model u razvoju, a OpenAI nije saopštio da je njegov rad potpuno zaustavljen. Pauzirane su interne aktivnosti koje ne ispunjavaju pooštrene bezbednosne uslove, dok kompanija nastavlja merenja i procene sposobnosti modela.

OpenAI ističe da Astra nije učestvovala u proboju sistema platforme Hugging Face tokom ranijeg internog testiranja drugog, neobjavljenog modela. Ipak, taj slučaj je pojačao pažnju prema tome kako se visokorizični modeli testiraju, ograničavaju i nadziru pre eventualne šire primene.

Strože kontrole i nezavisna provera

Kompanija uvodi strože bezbednosne kontrole i sarađuje sa relevantnim državnim institucijama i odabranim organizacijama za bezbednost veštačke inteligencije kako bi testirala mogućnosti Astre. Svrha objave, kako navodi OpenAI, jeste transparentnost prema javnosti i zajednicama koje se bave bezbednošću.

Ovaj potez se uklapa u širi kontekst pooštravanja zaštite zbog sajber mogućnosti Astre i pokazuje da procena sposobnosti modela mora da prati razvoj proizvoda, a ne da dolazi tek nakon njegovog puštanja. Za poslovne timove praktičan zaključak je da agentske AI alate ne treba uvoditi u kritične sisteme bez jasno određenih pristupnih prava, testnog okruženja, nadzora i plana reagovanja na incidente.