Bezbednost AI i borba za pravila koja oblikuju tržište
Rasprava o bezbednosti veštačke inteligencije dobija novu političku i poslovnu dimenziju: izvršni direktor Anthropica Dario Amodei pozvao je na usporavanje razvoja napredne AI i međunarodnu saradnju kompanija i vlada, dok je Meta odložila objavljivanje modela Muse za nekoliko meseci zbog bezbednosti i sigurnosti. U debatu su se uključili i Sam Altman iz OpenAI-ja, Elon Musk iz xAI-ja, Mark Zuckerberg, Alexis Ohanian i Shane Legg iz Google DeepMinda.
Od bezbednosnih mera do pitanja upravljanja
Amodeijev esej, dug gotovo 4.000 reči, zagovara postavljanje zaštitnih ograda pre daljeg ubrzavanja razvoja. Njegov predlog obuhvata međunarodnu strategiju saradnje radi bezbednog uvođenja tehnologije. Sam Altman i Elon Musk podržali su taj plan, ali među vodećim ljudima industrije nema saglasnosti o tome koliko državnog nadzora treba da prati razvoj AI.
Mark Zuckerberg poručio je da poverenje i usklađenost postaju ključne sposobnosti po kojima će se agenti i modeli razlikovati. Meta je, kako je naveo, samostalno pomerila isporuku Musea kako bi radila na bezbednosti i sigurnosti, bez zahteva da i druge kompanije učine isto. Takav pristup polazi od pretpostavke da tržišni podsticaji mogu nagraditi kompanije koje izbegavaju proizvode sa štetnim posledicama.
Alexis Ohanian ocenio je da je tehnološka industrija bila nedovoljno jasna prema javnosti kada objašnjava rizike AI. Shane Legg je ukazao da sposobnosti napreduju veoma brzo, ali da bezbednost ne sme zaostajati. Njegova poruka ne rešava pitanje ko određuje praktična pravila, ali potvrđuje da se ono nalazi u središtu rasprave.
Privatni standardi i rizik od zatvaranja tržišta
OpenAI, Anthropic i druge velike AI kompanije navodno razgovaraju o osnivanju organizacije za standarde AI, opisane kao privatno telo za samoregulaciju. Istovremeno, administracija Donalda Trampa nije pokrenula ranije razmatranu saveznu organizaciju, a David Sacks je zastupao stav da regulaciju treba prepustiti kompanijama koje razvijaju AI.
Kritičari upozoravaju da standardi, čak i kada su dobrovoljni, mogu ojačati položaj velikih laboratorija i otežati konkurenciju manjim firmama sa manje resursa. Aidan Gomez, izvršni direktor kompanije Cohere, sažeo je spor kao pitanje ko piše pravila, ko može da učestvuje i čije interese ta pravila štite.
Kinesko Ministarstvo spoljnih poslova osporilo je Amodeijev poziv na usporavanje razvoja na granici mogućnosti, dok je Amodei naveo da bi njegove mere mogle da uspore kineski napredak i značajno prošire prednost SAD u naredne tri do pet godina. Zato bezbednost AI nije odvojena od konkurencije, geopolitike i tržišnog pristupa.
Šta to znači za kompanije
Kompanije koje uvode AI treba da razlikuju tehničke bezbednosne zahteve od poslovnih posledica standarda koje dobavljači i tržišni lideri predlažu. Potrebno je pratiti kako se definišu testiranja, usklađenost i odgovornost, ali i da li dobrovoljna pravila menjaju izbor alata ili uslove konkurencije. Bezbednost ostaje neophodna, a održiva poslovna odluka zahteva razumevanje i toga ko ima uticaj na njeno definisanje.