Box uvodi Nemotron pretragu sadržaja za AI agente
Box je na razvojnoj konferenciji predstavio Box Content Retrieval, novu funkciju koja ugrađuje Nvidia Nemotron sistem za embedding u osnovu proizvoda. Kompanija navodi da će funkcija početkom naredne godine biti dostupna svim korisnicima paketa Enterprise Advance, dok Nvidia očekuje odgovore do četiri puta brže, 20% manje grešaka i 90% manju potrošnju tokena.
Namena sistema je da agentima omogući preciznije pronalaženje poslovnog sadržaja. Umesto da agent prolazi kroz kompletan dokument, pretraga može da vrati izdvojene delove koji su najrelevantniji za postavljeno pitanje ili zadatak.
Embedding kao osnova pretrage za agente
Box Content Retrieval koristi Nvidia projekat Nemotron Embed, koji nudi modele otvorenih težina za unapređenje automatizovanog pronalaženja informacija. Embedding modeli prethodno obrađuju podatke tako da ih jezički modeli i agenti mogu efikasnije koristiti pri pretrazi i odgovaranju.
Nemotron ne povezuje sadržaj samo preko ključnih reči, već mapira osnovne koncepte. Zbog toga bi alat za pretragu mogao da izvuče povezane pravne pojmove čak i kada upit i dokument koriste različite formulacije. Box kao primer ističe pravnike koji lakše mogu pronaći relevantne klauzule i presedane.
Metapodaci i dozvole ostaju ključni
Modeli Nemotron dostupni su bez naknade, ali Boxovo rešenje se oslanja i na postojeće metapodatke kompanije i kontrole dozvola. Aaron Levie, izvršni direktor Boxa, opisao je sistem kao objedinjavanje približno pet tehnologija u jedan jednostavan API, što pokazuje da kvalitetan retrieval ne zavisi samo od samog modela.
Širi kontekst razvoja AI infrastrukture vidi se i kroz rast tržišta računarskih resursa gde rast tržišta računarskih resursa utiče na dostupnost i primenu modela otvorenih težina u poslovnim sistemima.
Praktičan zaključak za poslovne timove
Za organizacije koje uvode AI agente, najvažniji korak nije samo izbor modela, već priprema sadržaja, dosledni metapodaci i precizno upravljanje pristupom dokumentima. Boxov pristup pokazuje da se brži i štedljiviji odgovori grade kombinovanjem semantičke pretrage sa postojećim pravilima pristupa.