DeepMind Institute predlaže merila za bezbedniji razvoj AGI-ja
Google i Google DeepMind pokrenuli su DeepMind Institute, novu platformu za raspravu o veštačkoj opštoj inteligenciji (AGI), i objavili početnu zbirku od četiri eseja. Institut vode suosnivač DeepMinda Shane Legg kao glavni urednik, direktor Googlea James Manyika i predsednik Google DeepMinda Demis Hassabis. Tekstovi obrađuju ekonomske politike, čitljivost rezonovanja modela, ljudski prosperitet i procenu graničnih AI modela.
Prostor za neslaganje unutar i izvan industrije
Zadatak instituta je da iznese različita stanovišta Googlea, Google DeepMinda i šire međunarodne istraživačke zajednice. Organizatori otvoreno navode da se učesnici neće uvek slagati i da mogu menjati mišljenja kako se na brzom tehnološkom frontu pojavljuju novi podaci i informacije.
Takav pristup dolazi u trenutku kada se rasprava o bezbednosti AI sistema pomera od opštih deklaracija ka konkretnijim predlozima: objavljivanju informacija, nezavisnoj kontroli i mogućnosti usporavanja razvoja ako zaštitne mere ne prate sposobnosti modela.
Proverljivost rezonovanja kao bezbednosno pitanje
Istraživači bezbednosti Rohin Shah i Anca Dragan u jednom eseju tvrde da sužavanje prostora za transparentnost AI modela nije neizbežno. Transparentnost u ovom kontekstu znači mogućnost da se vidi i proveri rezonovanje modela korak po korak.
Autori upozoravaju da nove arhitekture najmoćnije modele mogu učiniti težim za nadzor. Zato predlažu da programeri i regulatori neposredno razmotre bezbednosne kompromise. Jedna mogućnost je ograničavanje „neprozirne serijske dubine”, odnosno količine uzastopnog računanja koje model može obaviti bez stvaranja čitljivog traga rezonovanja.
Druga mogućnost je obaveza da programeri pokažu kako su manje transparentni sistemi i dalje jednako podložni nadzoru. Predlog ne određuje gotovu regulatornu obavezu, ali jasno postavlja proverljivost kao merilo koje ne bi trebalo žrtvovati samo zbog složenije arhitekture.
Predlog za ocenjivanje graničnih modela
Hassabis predlaže telo za standarde granične AI, predvođeno Sjedinjenim Državama, koje bi ocenjivalo najnaprednije modele. U početnoj fazi programeri bi modele dobrovoljno podnosili na proveru do 30 dana pre objavljivanja.
Kada sistem procene pokaže delotvornost, prolazak testova mogao bi postati uslov za stavljanje graničnih modela u upotrebu u SAD. Telo bi u početku kreiralo procene uz konsultacije sa AI kompanijama, a kasnije bi razvijalo nezavisne, neobjavljene testove kako laboratorije ne bi prilagođavale modele unapred poznatim proverama.
Hassabis navodi da bi se okvir mogao pooštravati ako to ozbiljnost okolnosti zahteva, uključujući koordinisano usporavanje razvoja među vodećim AI programerima. Za poslovanje je praktična poruka jasna: pri izboru naprednih AI sistema treba pratiti da li dobavljač može da dokumentuje nadzor, procenu rizika i način testiranja pre puštanja proizvoda u rad.