Salesforce i Nvidia razvili Koa za poslovne AI agente
Salesforce je na konferenciji Dreamforce predstavio Koa, svoj prvi model za rezonovanje, razvijen zajedno sa kompanijom Nvidia na osnovi otvorenog modela Nemotron. Koa je post-treniran za zadatke u prodaji, marketingu i korisničkoj podršci, a biće dostupan kao alternativa drugim modelima u platformi Agentforce.
Agentforce služi organizacijama za izgradnju agenata koji preuzimaju rutinske poslove, poput odgovaranja na pitanja korisnika ili zakazivanja termina. Do pojave Koe, zahtevi koji traže duže ili višekoračno zaključivanje kroz AI gateway bili su preusmeravani na modele kompanija kao što su Anthropic i OpenAI, uključujući Claude i ChatGPT.
Post-trening bez podataka korisnika
Salesforce i Nvidia navode da za post-trening nisu koristili stvarne podatke korisnika Salesforcea. Umesto toga, kreirali su sintetičke skupove podataka koji oponašaju tipične poslovne obrasce i scenarije: od razgovora sa nezadovoljnim korisnicima u kontakt-centru do rada prodavca koji pokušava da zaključi posao.
Takav pristup treba da omogući da model stekne relevantnost za konkretne radne tokove, a da se podaci klijenata ne unose u proces obuke. Salesforce ističe i jasnu provenijenciju podataka kao važan razlog oslanjanja na Nemotron, koji opisuje kao američki, otvoreni unapred istrenirani model pogodan za dalji razvoj poslovnog sistema.
Manje tokena i usmeravanje zahteva
Koa je zamišljen za zadatke koje korisnici Salesforcea najčešće poveravaju agentima, uz manju potrošnju tokena od slanja istih zahteva spoljnim modelima. Nvidia naglašava arhitekturu Nemotrona usmerenu na efikasno zaključivanje tokom inferencije, uključujući kraće vreme do prvog tokena.
Uloga AI gatewaya ostaje važna: on određuje koji će model obraditi pojedinačni zahtev. To znači da Koa nije univerzalna zamena za sve modele, već deo portfolija u kome se izbor prilagođava prirodi posla, potrebnom nivou rezonovanja i pravilima rada sa podacima.
Partnerstva sa zatvorenim modelima ostaju
Salesforce ne napušta saradnju sa vodećim dobavljačima zatvorenih modela. Kompanija je najavila i ClaudeForce, partnerstvo sa Anthropicom koje kompanijama omogućava da Claude koriste kao AI interfejs, dok podaci ostaju u Salesforce sistemu zapisa i pod zaštitom njegove infrastrukture.
Za organizacije koje uvode agente, važan je okvir u kome Salesforceova AI mapa sa zahtevima kupaca pokazuje da brži razvoj AI mogućnosti istovremeno zahteva upravljanje bezbednosnim i podatkovnim zahtevima. Koa zato pokazuje praktičan smer: poslovni model se ne procenjuje samo po opštoj sposobnosti, već i po usklađenosti sa radnim zadatkom, trošku obrade i mestu na kome podaci ostaju.