OpenAI, Anthropic i Google DeepMind usklađuju razgovore o AI bezbednosti
OpenAI je potvrdio da već nekoliko nedelja razgovara sa kompanijama Anthropic i Google DeepMind o bezbednosti veštačke inteligencije, uključujući katastrofalne rizike naprednih AI modela. Chris Lehane, globalni direktor politike u OpenAI-ju, izneo je to u utorak dok je u Vašingtonu razgovarao sa američkim zakonodavcima.
Razgovori tri vodeće AI laboratorije
Potvrda dolazi posle eseja izvršnog direktora Anthropica Darija Amodeija, objavljenog u subotu, u kojem je pozvao industriju na zajednički rad radi usporavanja razvoja graničnih AI sistema i izbegavanja katastrofalnih rizika. Poziv su podržali lideri industrije, među njima Sam Altman iz OpenAI-ja, Demis Hassabis iz Google DeepMinda i Elon Musk iz SpaceXAI-ja.
Altman je naveo da bi OpenAI, zajedno sa Anthropicom, mogao da uključi nezavisne evaluatore koji bi pratili bezbednost kompanijskih modela. Taj pristup se nadovezuje na spoljne provere bezbednosti AI sistema kao okvir u kojem spoljne provere treba da ojačaju nadzor nad razvojem AI sistema.
Ranije ove sedmice The Information je objavio da tri kompanije rade na stvaranju tela za standarde u AI industriji. Altman je zaposlenima navodno rekao da bi takvo telo moralo da nastane bez podrške američke vlade.
Regulativa, standardi i konkurencija
Hassabis je u julu pozvao SAD da osnuju novo telo za standarde koje bi imalo ulogu nadzornika AI-ja. Prema toj zamisli, ono bi pregledalo najnaprednije modele i koordinisalo usporavanje u celoj industriji kada bi se opasnosti povećale.
Istovremeno, zajednički razgovori konkurenata nose i pravni rizik. Altman i drugi ukazali su da bi koordinacija mogla otvoriti pitanje kršenja antimonopolskih propisa ako bi se ocenilo da potiskuje tržišnu utakmicu. Amodei je predložio usko vladino izuzeće koje bi omogućilo bezbednosnu saradnju, ali Lehane smatra da kompanijama takvo izuzeće nije potrebno.
OpenAI podržava i odredbu zakona FRONTIER Act koja bi vodeće laboratorije obavezala da nezavisnim organizacijama za verifikaciju omoguće ulazak radi provere da li se modeli razvijaju bezbedno. Predsednik Donald Tramp odbacio je bezbednosne zabrinutosti i usprotivio se strožoj regulativi, dok je njegov savetnik za AI David Sacks ocenio strahove od egzistencijalnog rizika preuveličanim.
Praktična posledica za kompanije
Za organizacije koje uvode AI važan je signal da se rasprava pomera od opštih načela ka nezavisnom ocenjivanju, standardima i regulatornim obavezama za najmoćnije modele. Pri izboru AI dobavljača i definisanju internih kontrola vredi pratiti da li će spoljne provere postati sastavni uslov bezbedne upotrebe sistema.