Rasprava o tempu razvoja AI-ja otvara pitanje odgovornosti
Anthropicov izvršni direktor Dario Amodei objavio je plan za „odmeravanje granice” razvoja veštačke inteligencije, dok je Jensen Huang, izvršni direktor Nvidije, javno odbacio tezu o usporavanju i potrebi za dodatnom regulacijom. U razgovoru podkasta Equity razmatrani su i stavovi Sama Altmana iz OpenAI-ja, kao i tri okvirna mere: nezavisne procene bezbednosti, koordinacija standarda među velikim AI kompanijama u demokratskim državama i međunarodna saradnja.
Šta zapravo znači „odmeravanje granice”
Izraz koji koristi Amodei ostavlja prostor za različita tumačenja. Predložene mere ne govore izričito da razvoj modela mora biti sporiji. Pre sugerišu nadzor nad bezbednosnim praksama i incidentima, uz uključivanje nezavisnih procenitelja u kompanije poput Anthropica i OpenAI-ja.
Učesnici razgovora ukazuju da su takve ideje duže prisutne u zajednici koja se bavi bezbednošću AI-ja. Brzo okupljanje dela industrije oko sličnog okvira može značiti nastajanje konsenzusa, ali otvara i pitanje koncentracije moći među laboratorijama koje razvijaju najnaprednije modele.
Posebno ostaju neodređeni ključni detalji: koje bi ovlašćenje imali nezavisni procenitelji, kako bi se prijavljivali incidenti, koji bi standardi važili i šta bi se događalo kada kompanija ne ispuni preuzete obaveze. Bez tih odgovora, poziv na oprez teško je pretvoriti u proverljiv operativni režim.
Regulacija, tržište i poslovni kupci
Jensen Huang zastupa suprotan pristup i tvrdi da AI ne treba usporavati, u skladu sa stavom predsednika Donalda Trampa da je otpor prema AI-ju preuveličan. Sagovornici Equityja napominju da Nvidia ima neposredan interes da se širenje AI infrastrukture nastavi bez ograničenja tempa.
Rasprava je obuhvatila i pretpostavku da postojeći propisi i tržišna konkurencija sami mogu obezbediti zaštitu. Skepsa proizlazi iz ocene da savezna vlast Sjedinjenih Država nije naročito spremna na široko sprovođenje propisa, pa ni na posebno nadziranje AI-ja.
Potrošački izbor pritom nema istu snagu kao kod usluga koje se lako otkazuju. Kako AI dobavljači sve više prihoduju od poslovnih korisnika, kompanije neće nužno brzo preći sa OpenAI-jevog Codexa na Anthropicov Claude Code samo zbog neslaganja sa postupcima jednog dobavljača. Velika ulaganja dodatno mogu ublažiti finansijske posledice eventualnih gubitaka.
Praktična posledica za kompanije
Za poslovne korisnike najvažnije je da najave o bezbednosti ne tretiraju kao zamenu za sopstvenu proveru dobavljača. Pri izboru AI alata treba tražiti jasne informacije o upravljanju incidentima, proceni rizika, ugovornim obavezama i mogućnosti promene usluge. Dok industrija ne utvrdi merljive standarde i odgovornost, upravljanje AI rizikom ostaje deo pojedinačne poslovne odluke.