Jev za dve nedelje stigao do 35% Vercelovih plaćenih timova

Jev, model kompanije Typesafe AI objavljen u ograničenom izdanju 15. septembra, za dve nedelje je koristilo 35% plaćenih timova na Vercelu. Vercel navodi da je njegov doseg bio gotovo dvostruko veći od drugoplasiranog modela Sonnet 5.5, što predstavlja najbrže usvajanje nekog modela tokom prve dve nedelje prema podacima te kompanije.

Model za izbor među ograničenim ishodima

Jev nije zamišljen kao opšti generator teksta. Njegova namena je donošenje izbora između nekoliko unapred određenih izlaza, pa je pogodan za zadatke u kojima treba brzo klasifikovati velike količine podataka.

Ograničavanje mogućih odgovora omogućava modelu da radi brže i uz niži trošak od alternativa kao što je Sonnet. Vercel je među ranim korisnicima: Jev koristi umesto GPT-6 Luna za klasifikovanje štetnih komandi.

U tom kontekstu, otvoreni protokoli u produkcionom AI okruženju pokazuje zašto otvoreni protokoli mogu biti važni kada se AI funkcije uvode u produkciona okruženja.

Šta pokazuju podaci Vercel AI Gateway-a

Brojke potiču iz Vercel AI Gateway-a, objedinjene API usluge nalik OpenRouter-u. Taj uzorak nije potpuna slika tržišta, jer može potceniti velike laboratorije kao što su OpenAI i Anthropic, koje nude sopstvene API-je. Ipak, podaci ukazuju da se interesovanje za Jev pretvorilo u stvarnu upotrebu.

Izveštaj beleži i nastavak zamaha otvorenih modela. Oni sada čine više od 70% tokena obrađenih preko Vercelovog gateway-a i gotovo 25% ukupne potrošnje. Istovremeno je potrošnja na vodeće laboratorije porasla deset puta, iako njihov udeo u ukupnoj potrošnji opada.

Praktičan zaključak za timove

Ovi podaci ne nameću jedan univerzalni izbor modela. Pokazuju da se specijalizovani modeli za klasifikaciju mogu koristiti uz napredne generativne modele i otvorene alternative. Za poslovanje je korisno razdvojiti zadatke po potrebnoj vrsti izlaza, brzini i trošku, a zatim meriti upotrebu kroz sopstvenu infrastrukturu.