OpenAI Astra stiže uz jače sajber mogućnosti i teži nadzor
OpenAI je u četvrtak objavio Astru, novi model koji kompanija predstavlja kao svoj najmoćniji i najsposobniji sistem do sada. Model je odmah dostupan korisnicima sajberbezbednosnog programa Daybreak, dok će tokom naredne sedmice stizati pretplatnicima paketa Pro, Plus, Enterprise i Business, kao i kroz API.
Kompanija Astru opisuje kao pomak u radu sa računarima i pregledačima, uz naglasak na brzinu, tačnost i bezbednost. Greg Brockman, predsednik OpenAI-ja, rekao je da je reč o najinteligentnijem i, kako tvrdi kompanija, najusklađenijem modelu koji je organizacija razvila.
Sajberbezbednost i razvoj softvera u prvom planu
Posebnu pažnju privlače Astrine sajberbezbednosne sposobnosti. OpenAI navodi da je model testiran na više bezbednosnih repera i da može da identifikuje i razvija zero-day eksploate, što bi odbrambenim timovima moglo da pomogne u ranijem otkrivanju i zakrpljivanju slabosti.
OpenAI Astru istovremeno naziva najboljim modelom za softversko inženjerstvo do sada. Rezultati koje je kompanija objavila ukazuju na više ocene od modela OpenAI Sol i Anthropic Fable u zadacima kao što su pronalaženje grešaka, izvršavanje terminalskih komandi i odgovaranje na pitanja o bazama koda.
Širenje komercijalnog tima OpenAI-ja, uključujući imenovanje Dalija Radžića za direktora prihoda na mestu direktora za prihode, odvija se u periodu kada kompanija nove modele usmerava i ka poslovnim korisnicima sa zahtevnim bezbednosnim i razvojnim potrebama.
Transparentnost zaključivanja ostaje otvoreno pitanje
Astra je kontroverzna i zbog primene tehnike poznate kao opaque recurrence. Ona može da prikrije lanac zaključivanja, odnosno proces koji istraživačima služi za proveru načina na koji je model došao do određene odluke.
Glavni naučnik OpenAI-ja Jakub Pachocki ocenio je da je praćenje zaključivanja ključan oblik nadzora, ali da sa rastom sposobnosti modela postaje zahtevnije. Kao mogući razlog naveo je rešavanje težih zadataka uz manje jezičkih tokena, pa čak i bez njih, čime se smanjuje mogućnost posmatranja tih koraka.
Na pitanje da li Astra označava dolazak opšte veštačke inteligencije, Brockman nije dao formalnu potvrdu. Rekao je da AGI više nije ugovorni okidač u odnosu OpenAI-ja i Microsofta, već koncept misije, dok lično smatra da je taj prag dostignut.
Praktičan zaključak za organizacije
Organizacije koje razmatraju Astru trebalo bi da odvoje procenu performansi od procene upravljivosti. Mogućnosti za rad nad kodom, terminalom i bezbednosnim ranjivostima zahtevaju jasna ovlašćenja, ograničena okruženja, evidenciju aktivnosti i ljudsku proveru rezultata pre primene u produkciji.