Pioniri AI traže otvorenost uz jasne granice i regulativu
Na konferenciji Ai4 u Las Vegasu Geoffrey Hinton, dobitnik Nobelove nagrade, Fei-Fei Li, izvršna direktorka i suosnivačica World Labs, i Andrew Ng, suosnivač Coursera, izneli su stavove o otvorenosti veštačke inteligencije. Iako se razlikuju u pogledu open-weight modela, sva trojica upozoravaju da razvoj AI ne bi trebalo da ostane pod kontrolom malog broja velikih kompanija.
Rasprava je važna jer se otvoreni modeli mogu slobodno distribuirati, dok je njihovu kasniju upotrebu teško kontrolisati. Pojedine laboratorije zato ih vide kao bezbednosni problem, a sagovornici na Ai4 ukazali su i na posledice preteranog zatvaranja pristupa tehnologiji.
Otvoren kod i otvorene težine nisu isto
Hinton pravi jasnu razliku između softvera otvorenog koda i modela sa javno dostupnim težinama. Kod može da pregleda šira zajednica i da otkriva greške, dok objavljene težine omogućavaju da se već istreniran, skup temeljni model uz znatno manji trošak prilagodi drugoj nameni.
Upravo u tome vidi rizik: takvi modeli mogu biti prilagođeni za štetne aktivnosti, uključujući sajber napade. Istovremeno, Hinton smatra da je rasprava o samom postojanju open-weight modela uglavnom završena, jer je prepreka koju je nekada predstavljao trošak treniranja temeljnih modela već nestala.
Njegov stav nije poziv na zaustavljanje AI. Očekuje koristi za produktivnost, obrazovanje i zdravstvo, ali smatra opravdanim zabrinutost zbog posledica sistema sposobnijih od ljudi. Regulativa, po njegovom mišljenju, treba da razvoj usmeri ka koristima za ljude.
Konkurencija, slojevi pristupa i javna infrastruktura
Ng naglašava tržišnu dimenziju. Strahuje od nastanka posrednika koji bi ograničavali pristup AI i time uticali na to šta se na toj tehnologiji može graditi. Njegovo rešenje je više pružalaca usluga i nadmetanje modela, a ne dominacija nekolicine aktera.
U tom okviru, spor o širokim zabranama open-weight modela pokazuje zašto se spor o širokim zabranama open-weight modela ne može odvojiti od pitanja konkurentnosti i pravila pristupa tehnologiji. Ng upozorava da će troškovno efikasniji modeli imati poslovnu prednost, kao i da rasprostranjenost modela utiče na način na koji korisnici dolaze u dodir sa idejama i informacijama.
Li odbacuje podelu na potpunu otvorenost ili potpunu zatvorenost. Kao poređenje navodi nuklearnu fiziku: naučni radovi mogu biti javni, uranijum regulisan, a laboratorijska praksa između ta dva pola. Slično tome, različiti delovi AI ekosistema mogu imati različite nivoe otvorenosti.
Ona kao primer saradnje javnog i privatnog sektora navodi Human Genome Project, čiji su rezultati postali osnova za dalji naučni i komercijalni rad. Za kompanije je praktičan zaključak da pri izboru i primeni AI sistema pojedinačno procenjuju model, namenu, pristup i kontrole, uz prihvatanje da su otvoreni i zatvoreni pristupi deo istog regulisanog ekosistema.