HiddenLayer prikupio 100 miliona dolara za zaštitu AI agenata
Američka kompanija HiddenLayer prikupila je 100 miliona dolara u rundi finansiranja Serije B, koju predvodi Delta-v Capital, za razvoj zaštite AI modela, agenata i radnih tokova. Startap iz Ostina navodi da mu je godišnji ponavljajući prihod u prethodnih godinu dana porastao više od deset puta i da je sada u rasponu od više desetina miliona dolara.
U finansiranju su učestvovali Ten Eleven Ventures, Morgan Stanley, Microsoftov M12, Booz Allen Hamilton i drugi investitori. Više od 90% rasta prihoda HiddenLayera poteklo je od novih kupaca, a među najvažnijim sektorima su finansijske usluge i velike tehnološke kompanije koje razvijaju AI proizvode.
Rast potrošnje menja prioritete AI bezbednosti
Gartner procenjuje da će kompanije ove godine potrošiti 2,83 milijarde dolara na proizvode namenjene zaštiti AI alata, što je 83% više nego 2025. godine. Za narednu godinu predviđena je potrošnja od gotovo 4,78 milijardi dolara. Takav rast prati šire uvođenje generativne AI i agenata u poslovne procese.
HiddenLayer se bavi zaštitom od protivničkih napada, ranjivosti i ubacivanja zlonamernog koda. Osnovne kategorije proizvoda kompanije obuhvataju otkrivanje AI sistema, zaštitu tokom izvršavanja, simulaciju napada i bezbednost lanca snabdevanja.
Prompt injekcije i zloupotreba alata u centru pažnje
Kompanija je postojeće proizvode proširila kako bi obuhvatila prompt injekcije, manipulaciju agentima i zlonamernu upotrebu alata. Chris Sestito, suosnivač i izvršni direktor HiddenLayera, naglašava da se osnovna tehnologija i dalje primenjuje na tradicionalne modele mašinskog učenja, generativnu AI i agentske radne tokove, ali je opseg zaštite morao da prati promenu načina primene modela.
Bezbednost tokom izvršavanja postala je naročito važna sa širenjem AI primena u kompanijama. Sestito je poredi sa klasičnim EDR rešenjima za krajnje uređaje, ali prilagođenim AI sistemima. Cilj je nadzor ponašanja i rizika dok model, agent ili radni tok stvarno obrađuje zahteve i koristi povezane alate.
Provera otvorenih modela i širenje prodaje
HiddenLayer navodi da parsira i skenira oko 50 AI formata fajlova. Poseban fokus je na modelima otvorenog koda i otvorenih težina, kako bi organizacije mogle da provere da li model koji preuzimaju zaista odgovara onome za šta se predstavlja, uključujući rizik od skrivenih modela unutar drugih modela.
Novi kapital kompanija planira da usmeri pre svega na prodaju i distribuciju, uz nastavak ulaganja u inženjering i istraživanje. U planu je i širenje na Evropu i region EMEA. Za poslovanje koje uvodi AI agente praktičan zaključak je da zaštitu ne treba svesti na proveru modela pre puštanja u rad: nadzor izvršavanja, kontrola korišćenih alata i provera porekla komponenti moraju biti ugrađeni u svakodnevno upravljanje AI rizikom.