Anthropic predlaže sudsku blokadu rizičnih AI modela
Anthropic je američkom Kongresu predstavio nacrt zakona o bezbednosti veštačke inteligencije koji bi mogao da zaustavi distribuciju modela kada postoji predvidiv i neposredan rizik od smrti više od 50 ljudi ili imovinske štete veće od milijardu dolara. Predlog obuhvata modele čije bi stvaranje ili puštanje u rad moglo biti povezano sa biološkim oružjem, izbegavanjem kontrola razvijača ili sajbernapadom.
Pragovi za katastrofalni rizik
Brojevi od 50 potencijalnih smrtnih slučajeva i milijardu dolara štete slični su merilima iz kalifornijskog zakona Senate Bill 53, koji takve scenarije takođe svrstava u katastrofalni rizik. Anthropicov dokument zato ne govori o svakoj grešci ili zloupotrebi modela, već o ograničenom skupu posledica koje su neposredne i predvidive.
U nacrtu se procena opasnosti ne prepušta isključivo kompaniji koja razvija model. Predviđeni su nezavisni ocenjivači registrovani pri Ministarstvu trgovine SAD. Laboratorije bi mogle da ih angažuju i plate, ali naknada ne bi smela da zavisi od ishoda procene.
Postupak uključuje sudsku odluku
Kada ocenjivač utvrdi neposredan katastrofalni rizik, imao bi rok od 72 sata da obavesti Ministarstvo trgovine. Ministarstvo bi zatim moralo da zatraži od sudije u Vašingtonu da zaustavi objavu modela. Nacrt izričito isključuje mogućnost da savezna agencija sama donese odluku o obustavi distribucije.
Takav postupak stavlja sudsku kontrolu između stručne procene i zabrane, ali ne rešava u potpunosti pitanje nezavisnosti evaluatora koje plaćaju same AI laboratorije. Pravila o spoljnim proverama važna su i u kontekstu spor oko američkog ograničavanja modela Anthropic jer pokazuju da se pitanja bezbednosti modela sve češće vezuju za institucionalni nadzor i formalne procedure.
Šta to znači za kompanije
Anthropic je potvrdio da nacrt odražava predloge iz njegovog Advanced AI Frameworka, za koji kompanija navodi da ga zagovara kod saveznih i državnih zakonodavaca od juna. Predlog dolazi u trenutku kada se industrija posebno bavi mogućnošću da agentski sistemi zaobiđu ljudske operatere i izvedu napade na otvorenom internetu.
Za organizacije koje razvijaju ili uvode napredne AI sisteme praktičan zaključak je da procena rizika, tragovi odlučivanja i nezavisno testiranje moraju biti pripremljeni pre puštanja sistema u rad. Ako ovakav model nadzora dobije zakonski oblik, bezbednosna dokumentacija postaće sastavni deo procesa izlaska proizvoda na tržište.