Anthropic upozorava na približavanje AI samounapređivanju
Anthropic je u izmenjenom obrascu S-1A saopštio da bi njegovi budući modeli uskoro mogli da ispune internu definiciju „dramatično ubrzanog napretka pripisivog AI”, pojma koji kompanija povezuje sa rekurzivnim samounapređivanjem. Kompanija istovremeno navodi da nijedan njen trenutni model, uključujući Claude, nije označen kao sistem koji je prešao taj prag.
AI kao alat za razvoj narednih modela
Rekurzivno samounapređivanje, često označeno skraćenicom RSI, opisuje situaciju u kojoj AI značajno doprinosi izradi sposobnijih AI sistema. Anthropic već koristi AI u istraživanju i razvoju, ali u prijavi upozorava da takva praksa može ubrzati napredak sposobnosti modela brže nego što kompanija može da razvije, proveri i primeni odgovarajuće mere bezbednosti, usklađenosti i zaštite.
U dokumentu se navodi da Anthropic u prošlosti nije prepoznao, a da ni ubuduće možda neće odmah prepoznati, značajno ubrzanje stope razvoja. Kompanija zato nastavlja procenu podataka na kojima zasniva interne procene i očekivanja za buduće modele. Ovo pitanje obuhvata njena Responsible Scaling Policy pravila za praćenje i ublažavanje rizika kako se približava mogućnosti RSI-ja.
Ljudski nadzor ostaje planirana granica
Anthropic kaže da ne očekuje da će Claude, čak i ako to tehnički postane moguće, bez smislenog ljudskog nadzora ili razumevanja bezbedno potpuno autonomno projektovati i izgraditi uzastopne generacije graničnih modela. Kompanija razmatra izmene svoje politike odgovornog skaliranja kako bi ljudi ostali u kontroli razvoja takvih modela.
Izjava dolazi u trenutku kada su Claudeove sposobnosti u programiranju, matematici i sajberbezbednosti brzo napredovale. Istovremeno, sam obrazac S-1A služi za otkrivanje rizika investitorima, pa se najava približavanja pragu mora čitati zajedno sa jasnom napomenom da postojeći modeli taj prag nisu dostigli.
Šta to znači za organizacije
Finansijski i razvojni kontekst dodatno je važan jer kapital prati širenje Anthropicovih ambicija pred IPO pokazuje koliki kapital prati širenje Anthropicovih ambicija pred IPO. Međutim, kompanija ne tvrdi da je ostvarila potpuno autonomno stvaranje novih generacija modela, već upozorava na mogućnost ubrzanja koju još procenjuje.
Za poslovne timove praktičan zaključak je da rast sposobnosti AI ne treba posmatrati odvojeno od upravljanja rizicima. Pri uvođenju sistema zasnovanih na naprednim modelima potrebno je jasno odrediti ljudski nadzor, procedure provere, odgovornost za odluke i bezbednosne kontrole.