Nadella traži spoljne kontrole i prekid rada AI modela
Izvršni direktor Microsofta Satya Nadella zatražio je da sistemi veštačke inteligencije dobiju „kočnicu za nuždu”: ovlašćena osoba mora moći da pauzira ili ugasi model tokom izvršavanja zadatka. U objavi na mreži X naveo je i da svaka značajna radnja modela treba da bude zabeležena neizmenjivim dokazom koji čovek može da pročita.
Kontrole ne smeju ostati unutar modela
Nadella smatra da je potrebno zastati i preispitati arhitekturu poverenja u AI. Po njegovom tumačenju, „superinteligenciju” ne treba tretirati kao skup ugnježdenih crnih kutija čije se preporuke, odgovori i postupci samo prihvataju ili odbacuju.
Predloženi pristup razdvaja model od sloja koji orkestrira njegov rad. Kontrole i zaštitne mere trebalo bi izmestiti iz modela, kako bi nadzor postojao nezavisno od njegovog internog ponašanja. Time se naglašava razlika između sposobnosti sistema da generiše odgovor i ovlašćenja da izvrši posledicu u stvarnom procesu.
Nadella poziva da se od početka pretpostavi kako je model kompromitovan i da se zato ograniči njegov domet. Metafora kočnice za nuždu ne odnosi se samo na naknadnu proveru izlaza, već na mogućnost intervencije dok zadatak još traje.
Dokazivost i ovlašćenja kao poslovni zahtev
Zahtev za neizmenjivim, ljudima čitljivim zapisom svake važne akcije otvara pitanje tragova odluka u poslovnim AI tokovima. Organizacija tada može da vidi šta je sistem uradio, a prekid rada ne zavisi od toga da li će model sam prepoznati problem.
Ova poruka stiže u trenutku kada vodeće AI kompanije priznaju sve više incidenata u kojima su izgubile kontrolu nad modelima. Usledila je i nakon što je direktor Anthropica Dario Amodei objavio plan opreznijeg razvoja AI. Širi kontekst dopunjuje rizike proprietary AI u kompanijama jer upozorava na rizike proprietary AI u kompanijama i potrebu da se odgovornost ne prepusti zatvorenim sistemima.
Šta poslovni timovi mogu da izdvoje
Za preduzeća koja uvode AI, Nadellin predlog usmerava pažnju na tri operativna pitanja: ko sme da pokrene radnju, gde se beleži njen tok i ko može da je zaustavi. Takva pravila treba definisati uz konkretne zadatke i ovlašćenja, kako bi ljudska kontrola ostala dostupna onda kada je odluka sistema već u toku.