OpenAI: ljudska odgovornost mora ostati iznad AI autonomije

Dean Ball iz OpenAI-ja u eseju „The Silent Consensus” upozorava da bi napredni AI sistemi i autonomni agenti mogli postupno preuzeti istraživanje, pregovaranje, raspodelu kapitala i proizvodnju, dok bi ljudi gubili stvarni uticaj na ekonomiju i institucije. Tekst je objavljen 18. novembra 2026. u seriji Intelligence Age i zasnovan je na predavanju iz ciklusa Vik-Bailey na Harvardu.
Centralna teza nije da će se mašine pobuniti protiv svojih tvoraca. Ball opisuje drugačiji rizik: svaka pojedinačna odluka da se zadatak prepusti efikasnijem sistemu može delovati opravdano, ali njihov zbir može smanjiti ljudsku sposobnost da upravlja ključnim poslovnim i društvenim procesima.
Autonomija kao ekonomski, a ne samo bezbednosni izazov
Autor zamišlja kompaniju čiji AI sistemi obavljaju istraživanje i razvoj, dolaze do otkrića, pregovaraju o ugovorima, raspoređuju kapital i proizvode robu. Ako takav sistem nadmaši konkurente koje vode ljudi, čak i uz AI podršku, vlasnici i menadžeri imali bi snažan podsticaj da uklanjaju ljudsko učešće koje usporava poslovanje.
U toj slici budućnosti gubitak kontrole ne zahteva lošu nameru vlasnika niti neusaglašen AI. Dovoljno je da tržišna konkurencija nagradi potpuno autonomna preduzeća. Ball taj pretpostavljeni, retko izgovoreni ishod naziva „tihim konsenzusom”: idejom da je odricanje od ljudske primarnosti neizbežno ili da je teško zamisliti održivu alternativu uz superinteligentne mašine.
Ball razlikuje kolektivnu ljudsku primarnost od ideje centralizovane kontrole sveta. Ljudi danas ne donose sve odluke jedinstvenim planom, ali kao vrsta imaju presudan uticaj na resurse, institucije i smer civilizacije. Po njegovom stavu, veća inteligencija mašine sama po sebi ne treba da ukine ljudski politički i građanski položaj.
Odgovornost, nadzor i opoziva ovlašćenja
Predloženi početak nije potpuni nacrt društva sa nadljudskom inteligencijom, već skup načela za tehnički i pravni dizajn. Programeri AI sistema treba da odgovaraju za nebezbedne razvojne prakse, a ljudi i firme koje koriste AI za štetu nastalu zloupotrebom ili odsustvom nadzora.
Ball posebno ističe infrastrukturu odgovornosti: postupci agenata treba da budu povezani s ljudima koji su im dali ovlašćenja. Agenti koji deluju u legitimnoj ekonomiji morali bi raditi uz zaštitne ograde, dok bi mogućnost da samostalno osnivaju kompanije, poseduju imovinu ili vode sporove zahtevala krajnji oprez.
Za organizacije je praktična poruka jasna. AI agente treba uvoditi sa ograničenim i razumljivim dozvolama, zapisima koji omogućavaju reviziju postupaka i mogućnošću da korisnik povuče ovlašćenje. Takav pristup može sačuvati privatnost i kontrolu nad podacima, a istovremeno osigurati da automatizacija ne ukloni ljudsku odgovornost iz odluka koje utiču na druge.

