Nvidia podržala Simplismart sa 14 miliona dolara za AI inferencu
Nvidia je učestvovala u seriji B vrednoj 14 miliona dolara za bengalurski Simplismart, zajedno sa Accelom, Shastra VC-om i Micromaxom, dok je rundu predvodio Dallas Venture Capital. Investicija vrednuje četvorogodišnji startup na oko 100 miliona dolara, a fokus kompanije je softver za efikasnije pokretanje AI modela, ponekad i uz manji broj GPU-ova.
Simplismart se nalazi između AI modela i računske infrastrukture na kojoj se oni izvršavaju. Njegov softver prilagođava način postavljanja i upravljanja modelima zahtevima konkretnog korisnika, bez potrebe da korisnik sam ručno upravlja svim konfiguracijama.
Optimizacija inferencije na postojećoj infrastrukturi
Rast primene AI aplikacija povećava potrošnju GPU resursa, ali poslovni zahtev nije nužno ni najveća brzina ni najniža cena inferencije. Za različita opterećenja potrebno je uskladiti odziv modela, broj zahteva koje može da obradi, performanse i trošak računanja.
Simplismart navodi da automatizuje veći deo tog prilagođavanja. Platforma omogućava postavljanje i rad AI modela kroz sopstveno okruženje, ali i unutar postojećih cloud i lokalnih infrastruktura korisnika. U ponudi su i alati za fino podešavanje modela, automatsko skaliranje računskih resursa prema promeni tražnje i nadzor performansi.
Kompanija takođe nudi cloud provajderima softver za izgradnju i upravljanje sopstvenim AI inference servisima na GPU infrastrukturi. Indijski cloud provajder Yotta koristi ovu tehnologiju za serverless AI inference servis u okviru platforme Shakti Studio.
Rezultati korisnika i saradnja sa Nvidiom
Simplismart tvrdi da je platformi za generisanje AI videa InVideo pomogao da smanji troškove GPU serviranja za 56%. Među korisnicima su i HeyGen, Higgsfield i Ema. Godišnja stopa prihoda, zasnovana na nedavnom korišćenju korisnika, porasla je 14 puta tokom prethodnih šest meseci na osmocifreni iznos, bez objavljenog tačnog iznosa.
Više od polovine prihoda dolazi iz SAD, iako startup ima više korisnika u Indiji. Novo finansiranje treba da podrži širenje na američkom tržištu, rast tima i dalji razvoj softvera za inferencu. Simplismart zapošljava 58 ljudi, a osnovali su ga 2022. bivši inženjer Oraclea Amritanshu Jain i bivši inženjer Googlea Devansh Ghatak.
Paralelno sa investicijom, Nvidia i Simplismart rade na tehničkim integracijama, uključujući Nvidia Dynamo softver za inferencu. U saradnji učestvuju inženjeri Simplismarta i Nvidijini arhitekti rešenja, a Nvidia je startup povezivala i sa potencijalnim kupcima i partnerima.
Šta to znači za poslovne AI projekte
Nvidia ulaže u softver koji može smanjiti potrebu za GPU resursima kod pojedinih radnih opterećenja, dok Simplismart konkurira i njenim rešenjima, kao i ponudama AWS-a, Google Clouda i Microsoft Azurea. Simplismart ističe zahteve za SLA i ukupni trošak vlasništva kao područja u kojima pokušava da se izdvoji.
Za poslovanje je ključna poruka da se AI inferencija procenjuje prema zahtevima konkretne aplikacije: potrebnom odzivu, obimu zahteva, pouzdanosti i ukupnim troškovima. Efikasnije upravljanje postojećim GPU kapacitetima može biti jednako važno kao i nabavka dodatne infrastrukture.