Etched podigao 700 miliona dolara uz procenu od 21 milijarde

Etched je prikupio novih 700 miliona dolara uz procenu kompanije od 21 milijarde dolara, a rundu je predvodio Jane Street. Procena je udvostručena za približno mesec dana: Etched je u julu prikupio 300 miliona dolara u Seriji C pri proceni od 10,3 milijarde dolara, dok je u decembru vredeo 5 milijardi dolara.

Kompanija AI tehnologiju isporučuje kao kompletne sisteme koje naziva „frontier inference clusters“. Jane Street je pre ulaganja testirao čip kompanije i nabavio sistem, a sada u svom data-centru ima sopstveni Etched rack.

Hardver za dve faze inference procesa

Etched se usredsređuje na inferencu, odnosno računarski proces koji počinje kada korisnik pošalje upit modelu. Suosnivač i operativni direktor Robert Wachen taj proces deli na dve faze: prefill i decode.

U fazi prefill sistem obrađuje upit i njegov kontekst, što je matematički i računski intenzivan posao. Etched je za taj deo razvio čip niskog napona. Kompanija navodi da takav pristup omogućava smeštanje većeg broja tranzistora bez uobičajenih problema s toplotom kod AI čipova visokih performansi, pa se može obraditi više tokena većom brzinom.

Faza decode generiše izlazne tokene, odnosno odgovor koji korisnik vidi, i intenzivno koristi memoriju. Etched je za nju razvio novu memoriju i interkonekciju pod nazivom cluster-scale memory. Prema objašnjenju kompanije, ona povezuje veliki broj čipova sa zajedničkim memorijskim fondom uz veliku brzinu i nisku latenciju.

Od specijalizovanog čipa do šire podrške modelima

Etched i dalje pokušava da otkloni utisak iz ranije faze razvoja da su njegovi čipovi trajno vezani za jedan konkretan frontier model. To je prvobitno bila namera kompanije, ali njen sadašnji sistem, kako tvrdi Etched, može da pokreće bilo koji frontier model. U kontekstu prethodne runde od 300 miliona dolara i procene od 10,3 milijarde, prethodne runde Etcheda za AI čipove sadašnje finansiranje pokazuje koliko su investitori brzo podigli vrednost kompanije.

Jane Street je saopštio da su rani rezultati testiranja pozitivni i da Etchedov pristup inferenci donosi preciznost potrebnu za najzahtevnija radna opterećenja. Među drugim investitorima su Kleiner Perkins, Sequoia Capital, Andreessen Horowitz, Tiger Global, Bain Capital Ventures i Blackstone.

Šta to znači za poslovnu infrastrukturu

Etched obećava veće brzine i niže troškove kroz arhitekturu prilagođenu odvojenim zahtevima prefill i decode faze. Za kompanije koje planiraju zahtevna AI radna opterećenja, vest je podsetnik da pri izboru infrastrukture treba procenjivati performanse celog inference sistema, uključujući računski deo, memoriju, povezivanje čipova i latenciju, a ne samo pojedinačni akcelerator.