Otvoreni AI modeli postaju meta velikih tehnoloških akvizicija
Nvidia je, prema navodima o kojima se govori u industriji, blizu kupovine platforme Hugging Face za 13 milijardi dolara. Vest dolazi nakon Nvidia sporazuma sa graditeljem otvorenih modela Poolside, vrednog 6 milijardi dolara, kao i nakon što je Stripe kupio OpenRouter za više od 7 milijardi dolara. Tri transakcije usmeravaju pažnju na infrastrukturu i distribuciju AI modela čiji su parametri dostupni za preuzimanje i prilagođavanje.
Zašto otvoreni modeli privlače velike kupce
Hugging Face je prostor na kome programeri dele otvorene modele, skupove za poređenje i alate za njihov rad. Njegova uloga u ekosistemu često se poredi sa GitHubom, ali za razvoj i primenu velikih jezičkih modela. Potencijalna kupovina bi Nvidiji donela pristup širokoj zajednici korisnika, koju može povezati sa sopstvenim čipovima i tehničkim standardima.
Nvidia već razvija porodicu otvorenih modela Nemotron, ali njihovo usvajanje nije veliko. Istovremeno, kompanija nastoji da ne zavisi samo od dogovora sa velikim hiperskalerima i vodećim AI laboratorijama. Taj pritisak raste jer graditelji modela, među njima OpenAI i Google, razvijaju sopstvene čipove za inferencu. OpenAI je ove nedelje objavio mogućnosti čipa Jalapeño.
Interesovanje kupaca nije ograničeno na modele. Stripe je kupovinu OpenRoutera predstavio kroz upravljanje tokenima i oskudnim računarskim resursima. OpenRouter poslovnim korisnicima obezbeđuje pristup otvorenim modelima, dok Poolside razvija otvorene modele. Zato vrednost ovih poslova obuhvata modele, kanale za njihovu upotrebu i infrastrukturu na kojoj se izvršavaju.
Trošak, kontrola i specijalizacija
Podaci ukazuju da je tržište još rano. Ramp, na osnovu ankete o potrošnji, navodi da otvorene modele koristi 6% kompanija. Jellyfish je utvrdio da ih koristi 2% anketiranih softverskih inženjera. Nik Albarran iz Jellyfish-a ističe da se takvi modeli najčešće primenjuju u proizvodima sa velikim brojem ponovljenih inferencijskih zahteva, poput četova za korisničku podršku.
U takvim scenarijima model može da se prilagodi čestim pitanjima i izvršava jeftinije. Za programiranje i agentske zadatke, gde su zahtevi raznovrsniji i traže više rezonovanja, vodeći vlasnički modeli često imaju prednost. Razlozi uključuju jednostavniji pristup, a u pojedinim slučajevima i subvencionisanu cenu tokena.
Glavni motiv za sada ipak nisu nužno troškovi, već kontrola i mogućnost konfiguracije. Albarran očekuje da će kompanijama biti lakše da se okrenu otvorenim modelima kada preciznije urede AI tokove rada. Pitanja koja otvara pritisak na otvoreni AI ekosistem dodatno pokazuju da dostupnost modela zavisi i od pravila koja uređuju otvoreni AI ekosistem.
Šta kompanije mogu da prate
Lin Qiao, izvršna direktorka Fireworks-a, navodi da ta kompanija dnevno obrađuje 40 biliona tokena i računa na raznovrsnost modela. Njena teza je da će kompanije moći da obučavaju modele za sopstvene potrebe koristeći proizvodne podatke, sa modelom prilagođenim svakom slučaju upotrebe.
Praktičan zaključak za poslovanje je da otvorene modele treba procenjivati prema stabilnosti i obimu konkretnog toka rada, zahtevima za kontrolom i troškovima inferencije. Za ponavljajuće procese prilagođeni model može biti relevantna opcija, dok složeniji zadaci i dalje mogu zahtevati mogućnosti vodećih vlasničkih modela.