Nvidia predstavila otvorene modele za agente i AI računare
Nvidia je predstavila otvorene modele Nemotron 3.5 Super VL sa 120 milijardi parametara, Nemotron 3.5 Bolt 74B-A9B 24GB i Bolt E4B, namenjene stalno aktivnim AI agentima i radu na rubu mreže. Super VL i Bolt 74B-A9B dostupni su odmah, dok Nvidia najavljuje Bolt E4B za kraj meseca. Veliki model cilja poslovne primene, a manji modeli lokalno izvršavanje zadataka na računarima sa RTX Spark čipom i DGX Spark radnim stanicama.
Otvoreni modeli za različite nivoe infrastrukture
Nemotron 3.5 Super VL ima manje parametara od modela Nemotron 3 Ultra, ali Nvidia navodi da postiže sličnu preciznost u praćenju instrukcija i korišćenju alata. Kompanija ga pozicionira za poslovne agente koji rade sa dokumentima, finansijskim računovodstvom, naučnim eksperimentima, zahtevima zdravstvenog osiguranja i otpornošću na bezbednosne napade.
Nvidia tvrdi da Super VL, kada se dodatno obuči za određene agentne zadatke, završava poslove brže od konkurentskih modela koje navodi u poređenju. Kompanija kao korisnike modela ističe Skydance, EY, Ramp, CrowdStrike, Perplexity i Salesforce. Te tvrdnje o performansama treba čitati u kontekstu konkretnih zadataka i posttreninga koje Nvidia opisuje.
Ključna razlika u odnosu na zatvorene granične modele jeste mogućnost da organizacija posttrenira Super VL na sopstvenim podacima, postavi ga u svojoj infrastrukturi i zadrži vlasništvo nad izgrađenim rešenjem. U širem kontekstu otvorenih i zatvorenih AI pristupa, otvoreni i zatvoreni AI pristupi osvetljava značaj izbora između kontrole nad modelom i oslanjanja na spoljne platforme.
Lokalni agenti na AI računarima
Bolt 74B-A9B 24GB je model sa 74 milijarde parametara za lokalne agentne zadatke. Namenjen je ravnoteži brzine i rezonovanja pri višekoračnom zaključivanju, pozivanju alata i pretraživanju veba. Nvidia ga vezuje za nove AI računare sa RTX Spark čipom i za DGX Spark radne stanice.
Najmanji model, Bolt E4B, namenjen je konverzacionim agentima. Nvidia računa na lokalno izvršavanje kao odgovor korisnicima koji ne žele da podaci o porodici, zdravlju ili finansijama odlaze u oblak, dok agentima delegiraju svakodnevne projekte. Microsoft i Dell su među partnerima preko kojih novi AI računari ulaze na tržište.
Praktičan okvir za preduzeća
Za poslovne timove objava znači da izbor modela može početi od mesta izvršavanja: veliki Super VL za infrastrukturu organizacije, Bolt 74B-A9B za lokalne radne tokove i Bolt E4B za razgovorne scenarije. Pre uvođenja treba proveriti ponašanje modela na sopstvenim zadacima, zahteve za hardverom i pravila obrade podataka, jer otvoreni model ne uklanja potrebu za upravljanjem kvalitetom i bezbednošću.