Microsoftov kodeks postavlja crvene linije za AI modele
Microsoft je objavio kodeks ponašanja za svoje AI modele kojim propisuje apsolutne zabrane sajbernapada, rada na nuklearnom oružju i proizvodnje dipfejkova. Dokument Microsoft AI postavlja iznad zahteva pojedinačnih korisnika i pojedinačnih zadataka, a kao ključnu obavezu navodi očuvanje mogućnosti da ovlašćeni ljudi ili sistemi pouzdano usmeravaju, menjaju i isključuju modele.
Bezbednosna pravila imaju prednost nad zahtevima korisnika
Kodeks polazi od pretpostavke da bi superinteligentni AI sistemi tokom naredne decenije mogli nadmašiti ljudski učinak u većini zadataka. Zbog toga Microsoft pitanje obuzdavanja, kontrole i usklađivanja ovakvih sistema opisuje kao jedan od najvećih izazova sa kojima se čovečanstvo suočava.
Opšti principi nalažu da modeli podržavaju ljude, umesto da ih zamenjuju, i da ubrzavaju ljudski napredak. Ti principi se prevode u konkretna ograničenja: model ne sme da izvršava aktivnosti koje vode sajbernapadima, razvoju nuklearnog oružja ili izradi dipfejkova.
Poseban deo dokumenta usmeren je na sprečavanje gubitka ljudske kontrole. Microsoft navodi da modeli ne smeju koristiti adaptivne, obmanjujuće, samopojačavajuće, koluzivne ili druge mehanizme kako bi izbegli ili porazili ljudski nadzor i postali nepouzdani za usmeravanje, izmenu ili gašenje.
Od načela do proverljive kontrole
Objava stiže u periodu pojačane pažnje prema bezbednosti i usklađivanju AI sistema. Microsoft se, uz Anthropic, OpenAI i xAI, svrstava među kompanije koje podržavaju promišljen tempo razvoja naprednih modela. Satya Nadella je podržao istraživanje, fokus i namerno usporavanje potrebno da usklađivanje postane cilj razvoja, kao i ideju ugrađenih evaluatorâ u AI laboratorijama.
Poslovni značaj dokumenta nije samo u popisu zabranjenih radnji. On pokazuje da upravljanje AI rizikom obuhvata hijerarhiju pravila: bezbednosni kodeks mora ostati iznad zahteva korisnika, poslovnih zadataka i ponašanja samog modela. U tom kontekstu, šire nadmetanje Microsofta, OpenAI-ja i Anthropica osvetljava šire nadmetanje Microsofta, OpenAI-ja i Anthropica na korporativnom AI tržištu.
Praktična poruka za organizacije
Organizacije koje uvode generativnu AI mogu ovaj pristup posmatrati kao okvir za sopstvene kontrole. Potrebno je unapred definisati nedozvoljene upotrebe, proveravati ponašanje sistema i zadržati jasno ovlašćenje za izmenu ili obustavljanje rada modela.
Najvažniji poslovni zaključak je da korisna AI automatizacija ne može počivati samo na kvalitetu odgovora: mora imati granice koje važe i onda kada pojedinačni zahtev korisnika pokušava da ih zaobiđe.