OpenAI testira Ultrafast režim za GPT-5.6 Sol u API-ju
OpenAI je predstavio ograničeni pregled usluge Ultrafast za model GPT-5.6 Sol u OpenAI API-ju. Novi režim rada, koji pokreće Cerebras, prema navodima kompanije isporučuje do 750 izlaznih tokena u sekundi i radi do 14 puta brže od standardne obrade. Pristup je za sada dostupan odabranoj grupi korisnika.
Ultrafast je zamišljen za proizvode i tokove rada u kojima je vreme odgovora presudno, a nije prihvatljivo zameniti napredni model manjim ili užim sistemom. OpenAI ga opisuje kao novu klasu brzine za GPT-5.6 Sol, odnosno pokušaj da se veća odzivnost spoji sa sposobnostima vodećeg modela.
Brzina za interaktivne poslovne procese
Kompanija među mogućim primenama navodi odgovor na incidente i održavanje pouzdanosti sistema. Kada dođe do kvara, model može pomoći pri čitanju logova, analizi tragova, pregledu nedavnih izmena koda i objedinjavanju izveštaja inženjera dok se problem još razvija.
U finansijskim istraživanjima i bezbednosti, fokus je na analizi tržišnih signala, proceni transakcija i uočavanju sumnjivih aktivnosti dok se okolnosti menjaju. Za korisničku podršku i glasovne sisteme, cilj je rešavanje složenijih upita bez prekida razgovora, čak i kada je potrebno proći kroz više koraka ili sistema.
OpenAI navodi i trgovinu, gde bi model mogao da odgovara na pitanja o proizvodima, proverava zalihe, prilagođava preporuke i rešava poteškoće pri naplati pre nego što kupac odustane. U istraživanju i eksperimentisanju, zadaci koji su se izvršavali tokom noći mogli bi da pređu u više interaktivnih iteracija tokom radnog dana.
Rani rad sa kompanijama i Cerebrasom
U početnoj grupi kupaca nalaze se kompanije iz oblasti programiranja, trgovine, finansijskog istraživanja, podrške i drugih interaktivnih aplikacija. Jane Street, Podium, Basis i Rogo među prvim su organizacijama koje testiraju GPT-5.6 Sol u Ultrafast režimu. OpenAI želi da kroz produkciona okruženja utvrdi gde promena brzine za red veličine donosi najveću vrednost.
Unutar kompanije, razvojni timovi koriste režim za reakciju na incidente i istraživanje. Kod alarma, Ultrafast služi za brzo čitanje zapisa, analizu tragova, objedinjavanje razgovora, izbor sledećih provera i pripremu ili potvrdu ispravke. OpenAI naglašava da inženjeri i dalje donose procene i odlučuju o puštanju izmena u rad.
Ovaj potez nastavlja razvoj ponude nakon promene cena i Fast režim za Sol, gde su promene cena i Fast režim za Sol pokazali da OpenAI diferencira pristup performansama svojih modela. Partnerstvo sa Cerebrasom sada je usmereno na inferencu sa vrlo malim kašnjenjem za najzahtevnije radne tokove.
Ograničena dostupnost kao važan uslov
GPT-5.6 Sol u Ultrafast režimu trenutno je u ograničenom pregledu za odabrane kupce, a OpenAI najavljuje širenje pristupa kako kapacitet bude rastao. Zbog toga broj od 750 izlaznih tokena u sekundi treba posmatrati u okviru nove usluge i njene trenutne dostupnosti, a ne kao opštu karakteristiku svih API zahteva.
Za poslovne timove praktičan zaključak je da najpre izdvoje procese u kojima čekanje neposredno utiče na rešavanje incidenta, tok razgovora ili istraživačku iteraciju. Tamo gde je to slučaj, ultrabrza obrada može se procenjivati uz postojeću ljudsku kontrolu, kvalitet odgovora i uslove pristupa koji će se menjati sa rastom kapaciteta.