Jensen Huang: bezbednost AI ne zahteva nove propise
Izvršni direktor i osnivač kompanije Nvidia Jensen Huang izjavio je na Salesforceovoj konferenciji Dreamforce da za bezbednost veštačke inteligencije nisu potrebni novi zakoni i propisi. On AI opisuje kao računarski sistem sastavljen od hardvera i softvera, dok Nvidia danas, pored hardvera za AI, razvija modele otvorenih težina, agente, alate i izolovana okruženja.
Bezbednost kao inženjerski zadatak
Huang je odbacio predstavu o AI kao o novom obliku „vanzemaljskog uma“. Po njegovom stanovištu, pošto sisteme grade ljudi, ljudi mogu i da ih kontrolišu. Zato bezbednost vidi prvenstveno kao inženjerski, a ne pravni problem.
Njegova poruka kompanijama je da ne objavljuju proizvod ako nisu sigurne u njegovu funkcionalnost, sposobnosti ili bezbednost. Umesto dodatne regulative, naglasak stavlja na procenu spremnosti proizvoda pre izlaska na tržište i na tržišni pritisak koji bi trebalo da obeshrabri plasiranje nesigurnih rešenja.
Huang tvrdi da inovacija, brzina i bezbedni proizvodi nisu međusobno isključivi. Kompanije, prema njegovoj formulaciji, mogu da razvijaju brzo, ali treba da zastanu kada procene da proizvod izmiče kontroli ili nije dovoljno bezbedan.
Granice oslanjanja na tržište
Takav pristup ostavlja otvoreno pitanje da li tržišni podsticaji sami mogu da spreče štetu. Izvor podseća na kvar CrowdStrike ažuriranja iz 2024. godine, koji je izazvao prekide u radu i prizemljio hiljade letova, kao primer posledica koje može imati softverska greška i bez namere da se nanese šteta.
U tekstu se navode i sporovi povezani sa štetom na društvenim mrežama, kao i slučajevi u kojima se AI dovodi u vezu sa bezbednosnim incidentima i tužbama. Postojeći propisi o odgovornosti za proizvod mogli bi da obuhvate AI, ali bi njihova primena zavisila od pojedinačnih slučajeva i sudske prakse.
Samoregulacija i poslovna odgovornost
Huang nije posebno razradio model industrijske samoregulacije, ali se zalaže za modele otvorenih težina i njihovu upotrebu kao konkurentsku protivtežu zatvorenim AI laboratorijama. Satya Nadella iz Microsofta istovremeno je na skupu All-In rekao da bezbednosna pitanja, uključujući hakovanje i korist za građane, nisu ograničena na jednu zemlju.
Za organizacije koje uvode AI praktičan zaključak nije čekanje raspleta regulatorne rasprave. Bezbednosno testiranje, jasna odgovornost za objavu, kontrola pristupa, praćenje incidenata i postupak za privremeno zaustavljanje sistema treba da budu sastavni deo razvoja i nabavke AI rešenja.