Kralj Čarls pozvao AI lidere na kontrolu tehnologije
Kralj Čarls III ugostio je na privatnom samitu u Dumfries Houseu predstavnike kompanija Nvidia, OpenAI i Anthropic, britanskog ministra za AI Kanishku Narajana, šefa britanske spoljne obaveštajne službe i druge učesnike. Poručio je da je potrebno obezbediti dovoljno mehanizama kontrole nad veštačkom inteligencijom „pre nego što bude kasno“.
Na skupu su bili Jensen Huang iz Nvidije, Sarah Frair, finansijska direktorka OpenAI-ja, i Tino Kueljar, zadužen za globalne poslove u Anthropicu. Prisustvovao je i Paolo Benanti, savetnik pape za AI. Kralj je, prema navodima, ostao približno 20 minuta, nakon čega su učesnici nastavili razgovor.
Koristi i rizici u istoj raspravi
Čarls je naveo da AI već pokazuje veliku sposobnost da unapredi i spasi živote, posebno kroz medicinu i nauku. Istovremeno je upozorio da ljudi koji stvaraju ove tehnologije sve češće ukazuju na mogućnost razvoja njihovih mračnijih kapaciteta, uključujući potencijal da oduzimaju živote.
Posebno je naglasio potrebu da se ozbiljno razmotre egzistencijalne opasnosti u slučaju da sistemi završe u pogrešnim rukama i budu primenjeni na potencijalno katastrofalne načine. Završna poruka učesnicima bila je da njihov zadatak nije samo tehnološki napredak, već očuvanje službe tehnologije čoveku, zajednici i prirodnom svetu.
Međunarodna saradnja nasuprot trci za prednošću
Britanski monarh pozvao je na međunarodnu saradnju i konsenzus kako bi se iskoristile koristi AI-ja. Rasprava dolazi u trenutku kada se pozivi na usporavanje razvoja sudaraju sa političkim i tržišnim interesima. Sam Altman, Ilon Mask i Dario Amodei ovog meseca su tražili usporavanje razvoja, dok su Jensen Huang i predsednik Donald Tramp odbacili takve pozive.
U istom kontekstu, Anthropic je ograničio pristup svojim modelima Fable i Mythos na korisnike iz SAD, što je otvorilo pitanja AI suvereniteta u evropskom tehnološkom sektoru. OpenAI i Anthropic su tokom prethodne godine nagoveštavali velike javne ponude akcija, dok je OpenAI saopštio da su planovi za IPO ove godine zaustavljeni usled zabrinutosti za bezbednost AI-ja.
Zaključak za organizacije
Za organizacije koje uvode AI, poruka samita je praktična: poslovna vrednost ne odvaja se od kontrole pristupa, procene namene sistema i odgovornosti za posledice njegove primene. U okruženju u kojem se prepliću bezbednost, konkurentnost i javni interes, upravljanje rizicima mora da prati svaku fazu uvođenja AI rešenja.