Pol Kristijano imenovan u odbor OpenAI Foundation
Novo imenovanje u upravljanju bezbednošću AI
OpenAI je imenovao Pola Kristijana u odbor OpenAI Foundation. On će biti posmatrač bez prava glasa u odboru OpenAI Group PBC i istovremeno će se pridružiti Odboru za bezbednost i sigurnost (SSC), kojim predsedava Ziko Kolter.
SSC obezbeđuje upravljački nadzor nad praksama bezbednosti i sigurnosti u celom OpenAI-ju, uključujući OpenAI Group PBC. Kristijanovo imenovanje zato povezuje rad fondacije, korporativno upravljanje i tehničku procenu sve sposobnijih AI sistema.
Iskustvo iz istraživanja, standarda i javnog sektora
Kristijano je viši tehnološki savetnik u Centru za AI standarde i inovacije (CAISI), koji deluje u okviru američkog Nacionalnog instituta za standarde i tehnologiju (NIST), agencije Ministarstva trgovine SAD. U CAISI-ju i njegovom prethodniku, Američkom institutu za bezbednost AI, radio je na evaluaciji graničnih AI modela, uključujući sposobnosti sa implikacijama po nacionalnu bezbednost, kao i na pristupima za ublažavanje bezbednosnih i sigurnosnih rizika.
Kao viši tehnički savetnik, izuzimaće se iz svih pitanja povezanih sa OpenAI-jem, kao i iz svih evaluacija modela. Njegovo iskustvo u vladi obuhvata rad tokom dve administracije, dok će u novoj ulozi učestvovati u radu fondacije i njenog SSC-a.
Kristijano je osnivač neprofitne organizacije Alignment Research Center (ARC), usmerene na usklađivanje naprednih AI sistema sa ljudskim interesima. U OpenAI-ju je od 2017. do 2021. vodio istraživanja usklađivanja i dao doprinos temeljnim radovima na učenju potkrepljivanjem uz povratne informacije ljudi, poznatom kao RLHF.
Šta se menja u okviru OpenAI Foundation
OpenAI Foundation je zasebna dobrotvorna organizacija koja zadržava kontrolu nad OpenAI Group PBC i poseduje značajan vlasnički udeo u toj kompaniji. Fondacija sprovodi sopstvene dobrotvorne aktivnosti i podržava naučna otkrića, civilno društvo i otpornost kroz odgovornu primenu AI.
Imenovanje se nadovezuje na upravljačku strukturu uspostavljenu recapitalizacijom u oktobru 2025. godine, kao i na obaveze povezane sa jednogodišnjim proverama kancelarija državnih tužilaca Kalifornije i Delavera. OpenAI navodi da je njihovo angažovanje doprinelo jačanju upravljačkog okvira.
Za organizacije koje prate razvoj granične AI, prioriteti bezbednosti, zaštite mladih i infrastrukture osvetljava širi spoj bezbednosti, zaštite mladih i infrastrukturnih prioriteta, dok ovo imenovanje pokazuje da OpenAI u nadzor uključuje stručnjaka sa iskustvom u evaluaciji modela, standardima i istraživanju usklađivanja.
Praktičan poslovni zaključak je da upravljanje AI više nije odvojeno od razvoja proizvoda: pri izboru i primeni naprednih modela treba pratiti ko vrši nadzor, kako se procenjuju rizici i koje su odgovornosti jasno razdvojene.