ControlAI poziva na obustavu razvoja superinteligentne AI

Neprofitna organizacija ControlAI pozvala je na potpunu obustavu razvoja superinteligentne veštačke inteligencije, a njen izvršni direktor za SAD Konor Lihi tu poziciju obrazlaže rizicima sistema koji bi mogli biti sposobniji od ljudi. Stav je predstavljen u epizodi podkasta Equity kompanije TechCrunch, uz osvrt na bezbednosni incident koji povezuje OpenAI i Hugging Face.

Od kontrole sistema do zahteva za obustavom

AI kompanije o superinteligentnoj AI govore kao o mogućem sledećem koraku razvoja. Lihi, istraživač AI i preduzetnik, zastupa znatno restriktivniji pristup: razvoj takvih sistema ne bi trebalo nastavljati.

Njegov argument nije da se napredni modeli samo bolje usklade sa ljudskim ciljevima ili zatvore u strože kontrolisana okruženja. On smatra da rizici postaju preveliki za upravljanje isključivo pristupima kao što su usklađivanje i zadržavanje sistema.

U razgovoru se kao kontekst pominje bezbednosni incident OpenAI i Hugging Face. Takvi događaji otvaraju pitanje posledica kada se uvode sistemi čije ponašanje nije moguće pouzdano kontrolisati, posebno ako njihove sposobnosti nadmašuju ljudske.

Regulativa ulazi u središte rasprave

ControlAI navodi da ideja o obustavi razvoja superinteligencije više nije samo hipotetična tema. Lihi kaže da je ono što je pre šest meseci delovalo daleko danas podržano talasom novog zakonodavstva.

Važno je razlikovati raspravu o superinteligenciji od svakodnevne primene postojećih AI alata. Ipak, bezbednosni incidenti i zakonske inicijative pokazuju da se upravljanje rizikom ne može odvojiti od strategije razvoja, nabavke i uvođenja AI rešenja.

Praktična poruka za organizacije

Kompanije koje koriste ili razvijaju AI treba da prate kako se menjaju zahtevi za bezbednost i regulativu, kao i da jasno odrede granice odgovornosti za modele, podatke i pristup sistemima. Debata o superinteligenciji možda se odnosi na buduće sposobnosti, ali potreba za pouzdanom kontrolom AI sistema već je poslovno pitanje.