VMTech
Razgovarajmo →

OpenAI Performance Factory automatizuje otklanjanje usporenja ChatGPT-a

OpenAI Performance Factory automatizuje otklanjanje usporenja ChatGPT-a

OpenAI je predstavio Performance Factory, sistem u oblaku zasnovan na Codexu koji automatizuje otkrivanje i rešavanje regresija performansi u ChatGPT-u. Njegov Regression Workflow je za nešto više od tri meseca pratio više od 1.700 istraga, utvrdio uzrok u preko 600 slučajeva i prosečno pokretao 17 automatizovanih istraga dnevno.

Sistem je nastao kao odgovor na rastući obim rada oko performansi. Pre upotrebe Codexa, inženjeri su ručno pregledali metrike, logove, tragove i kod, a OpenAI je vremenom izgradio više od 30 alata za takve istrage. Codex je potom preuzeo deo analitičkog posla, dok su znanje i postupci tima objedinjeni u zajedničku veštinu perf-forensics.

Od alarma do provere oporavka

Regression Workflow otvara zadatak kada konfigurisani alarm signalizira pogoršanje performansi. Agent najpre određuje koja se metrika promenila, kada je usporenje počelo i koje zahteve pogađa. Zatim poredi grupe zahteva, proverava primene izmena i promene funkcionalnih zastavica, te koristi logove i tragove da ispita mogući uzrok.

Svaki zadatak čuva stanje i ključne nalaze nezavisno od pojedinačne sesije agenta. Zato rad može da se nastavi nakon pregleda koda, komentara na GitHub pull requestu ili završene primene izmene. Kada Codex predloži ispravku i otvori pull request, inženjer pregleda promenu i odlučuje da li će biti spojena i puštena u produkciju.

Četiri komponente i kontrolisana ovlašćenja

Performance Factory čine servis za zadatke sa podesivim tokovima rada, petlja za dodelu spremnog posla, interni API za pokretanje Codexa u oblaku i pretplate na događaje. Pretplate ponovo aktiviraju zadatak kada, na primer, stigne komentar na GitHub pregledu ili se završi primena izmene.

Codex radi u okruženju unutar mreže OpenAI-ja, sa pristupom repozitorijumima i alatima za nadzor: metrikama, logovima, tragovima, CPU profilima i snimcima memorije. Agent koristi servisni identitet, što omogućava ograničavanje dozvola i praćenje radnji koje su obavili agenti za performanse.

Nezavisna provera dijagnoze i predloga izmene

OpenAI je uveo odvojenu Codex sesiju koja pokušava da ospori početnu dijagnozu. Taj pregled ponovo proverava pretpostavke i kontrafaktualne scenarije, poput pitanja da li su zahtevi koji nisu bili izloženi određenoj izmeni ostali stabilni. U ručnoj proceni 100 predloga uzroka, 70% je ocenjeno kao tačno, dok je 30% zahtevalo dodatno razjašnjenje ili nije u potpunosti dokazalo uzročnost.

Provera se primenjuje i na predložene popravke, jer su neke izmene bile složenije nego što je potrebno ili su uvodile nove probleme. Arhitektonske odluke, poput dodavanja keša uz rizik zastarelih podataka, ostaju domen procene inženjera. Posle primene izmene agent proverava da li su se performanse vratile na prethodni nivo; ako nisu, zadatak se vraća u istragu ili se otvara novi za preostalo usporenje.

Pristup se prirodno nadovezuje na agentne modele Codex u inženjerskom radu i pokazuje da agenti mogu preuzeti ponovljive korake, dok ljudi zadržavaju odgovornost za odluke koje traže kontekst i procenu kompromisa. Za poslovanje je najvažnije da automatizacija ima jasno stanje zadataka, merljivu proveru kvaliteta, ograničena ovlašćenja i obavezan ljudski pregled tamo gde promena može uticati na proizvod.

#openai#codex#chatgpt#automation
Otvorena analitika
Na sajtu 7 pregleda
min čitanja 4 19.11.2026
Instagram

OpenAI Performance Factory automatizuje otklanjanje usporenja ChatGPT-a

Otvorite objavu na Instagramu ↗