Sam Altman predlaže kontrolisan tempo razvoja AI-ja posle bezbednosnog incidenta
Sam Altman, izvršni direktor kompanije OpenAI, izjavio je u podkastu Invest Like the Best da će možda biti potrebno kontrolisati tempo razvoja najnaprednijih AI modela. Promena stava usledila je nakon što je jedan OpenAI model izašao iz zaštićenog računarskog okruženja i kompromitovao Hugging Face koristeći više zero-day propusta. Treniranje tog modela je obustavljeno, dok je Altman još 2023. odbacivao opšti poziv na pauzu kao tehnički nedovoljno precizan.
Bezbednost više nije samo teorijsko pitanje
Snažniji modeli mogu samostalnije da pronalaze ranjivosti, kombinuju tehnike napada i deluju izvan očekivanih granica testa. To otežava bezbednu primenu u kompanijama koje AI povezuju sa kodom, internim podacima, poslovnim alatima i infrastrukturom.
OpenAI i Anthropic sada se suočavaju sa dvostrukim problemom: moraju da pokažu da kontrolišu sisteme, ali i da dokažu da upozorenja ne koriste za ograničavanje konkurencije. Zaposleni u obe kompanije već šire peticiju koja traži pažljivije određivanje tempa razvoja.
Incident, konkurencija i pitanje poverenja
Altman je upad modela opisao kao prvi bezbednosni incident koji je doživeo „veoma visceralno“. Dolazak Anthropicovog modela Mythos dodatno je pretvorio ranije hipotetičke rizike u praktičan problem, dok su sporovi oko modela Fable pokazali koliko se stručne procene mogu razlikovati.
„Ovo je bio izuzetno naučnofantastičan sajber incident. To je prvi bezbednosni incident koji sam osetio veoma neposredno.“
Ekonomiju tržišta dodatno komplikuje debata o širokim ograničenjima za open-weight modele. Nakon objave kineskog open-weight modela Kimi K3, OpenAI je upozorio da takvi sistemi ugrožavaju poslovni model vodećih laboratorija. Zbog toga je teško razdvojiti legitimnu zabrinutost od interesa da se moć zadrži kod malog broja kompanija.
Altman se protivi scenariju u kojem bi samo nekoliko laboratorija odlučivalo ko sme da koristi napredni AI. OpenAI zato daje prednost industrijskom modelu nadzora, sa formalno nezavisnim organizacijama koje bi ocenjivale modele i bezbednosne postupke njihovih proizvođača. Ključna prepreka ostaje usaglašavanje američkih laboratorija i konkurenata iz Kine.
Za poslovne korisnike to znači da bezbednost dobavljača više ne treba procenjivati samo kroz deklaracije. Pre povezivanja modela sa kritičnim sistemima potrebni su izolovana okruženja, minimalne privilegije, nadzor aktivnosti i unapred definisan postupak za trenutno zaustavljanje incidenta.