Rippling uvodi kontrolu AI potrošnje po zaposlenom i učinku
Rippling je predstavio AI Spend Console, alat za praćenje i ograničavanje troškova veštačke inteligencije po zaposlenom, timu i radnoj ulozi. Povod je bilo interno otkriće da je kompanija početkom godine bila na putu da na AI tokene potroši iznos jednak 40% budžeta za naknade zaposlenih u R&D organizaciji, odnosno milione dolara, uz rast potrošnje od 80% iz meseca u mesec.
Matt MacInnis, direktor za proizvode u Ripplingu, naveo je da je uprava reagovala hitnim projektom za utvrđivanje gde novac odlazi i kakav rezultat kompanija dobija zauzvrat. Analiza je pokazala da je približno 10–15% zaposlenih stvaralo oko 60% ukupne AI potrošnje, dok je jedan inženjer mesečno trošio 50.000 dolara.
Od potrošnje tokena do merenja poslovnog rezultata
AI Spend Console povezuje potrošnju sa signalima rada, kao što su broj upita dnevno, linije koda i pull requestovi. Cilj nije samo da se otkrije ko koristi najviše tokena, već i da se uoči kada veliki račun ne prati odgovarajući kvalitet rada. Rippling kao primer navodi inženjere sa visokom AI potrošnjom čije kolege često vraćaju rad na doradu tokom pregleda koda.
Takav pristup je važan jer sama količina korišćenja generativne AI ne govori da li alat donosi vrednost. Za funkcije van inženjeringa kompanija želi da potrošnju poveže sa konkretnim merama učinka. Kod timova za uvođenje klijenata, na primer, to mogu biti automatizacija poštanskih podataka i usklađivanje podataka, kao i broj uspešno uvedenih klijenata.
Gateway i izbor modela kao kontrola rashoda
Rippling nije želeo da prekine upotrebu AI, već da je strože usmeri. Najpre je ugovorio maksimalne limite potrošnje za Cursor, OpenAI i Anthropic. Kompanija je utvrdila da zaposleni često za sve zadatke podrazumevano biraju najnovije i najskuplje modele, bez obzira na složenost posla.
Zato je napravila sopstveni AI gateway, koji preusmerava upite ka modelu koji je najisplativiji za konkretan zadatak. AI Spend Console može da radi uz drugi gateway, ali su funkcije upravljanja troškovima vezane za Ripplingov gateway. Kontrole potrošnje za ChatGPT Enterprise pokazuju zašto organizacije sve češće objedinjuju uvid u korišćenje i finansijske granice kroz kontrole potrošnje za ChatGPT Enterprise kako bi lakše upravljale budžetima za AI alate.
Rezultat je smanjenje udela tokena sa 40% na oko 15% budžeta za zaposlene u R&D-u. Istovremeno, obim nije bitno smanjen: nakon vrhunca od 605 milijardi tokena, interna upotreba je u julu ponovo dostigla 600 milijardi tokena, dok je trošak julske potrošnje iznosio 37% aprilskog troška.
Operativna disciplina ostaje neophodna
Rippling je zaposlene koji AI koriste delotvorno imenovao „AI kapetanima“, sa zadatkom da pomognu ostatku organizacije. Ipak, šira primena van softverskog inženjeringa ostaje u razradi, jer kompanija pristup za druge timove uslovljava mogućnošću da potrošnju tokena poveže sa produktivnošću.
Praktičan poslovni zaključak je da uvođenje AI ne treba voditi samo kroz dostupnost alata. Organizacije treba da postave limite, biraju modele prema zadatku i redovno proveravaju da li potrošnja donosi merljiv radni rezultat, jer tek tada kontrola troškova može da prati stvarnu vrednost za poslovanje.