MIT-ov LAICS prati širenje tržišta AI akceleratora
Tim Lincoln Laboratory Supercomputing Centera pri MIT Lincoln Laboratory u najnovijem radu iz serije Lincoln AI Computing Survey, odnosno LAICS, obuhvatio je više od 120 komercijalnih AI akceleratora. Prvi rad, pokrenut 2018. godine, proučavao je 57 sistema, a pregled poredi njihove vršne performanse i vršnu potrošnju energije.
LAICS vodi Albert Reuther sa članovima LLSC-a Michaelom Jonesom, Peterom Michaleasom, Jeremyjem Kepnerom i Vijayom Gadepallyjem. Cilj je da laboratorijsko osoblje i sponzori dobiju tehnički pregled dostupnih rešenja pri izboru tehnologija za istraživanje, nabavku i računarsku infrastrukturu.
Od čipova do kompletnih sistema
AI akceleratori su specijalizovani sistemi za ubrzavanje neuronskih mreža, dubokog i mašinskog učenja, ali se koriste i za druge paralelne poslove. Među primerima su modelovanje funkcija molekula i ubrzavanje simulacija dinamike fluida, koje zahtevaju velike računarske resurse.
Istraživanje razlikuje centralne procesore, grafičke procesore, integrisana kola posebne namene, programabilna logička kola i dataflow akceleratore. CPU-ovi su namenjeni opštim zadacima, dok su ASIC rešenja ograničena na veoma određene funkcije. GPU, FPGA i dataflow pristupi nude veću prilagodljivost različitim radnim opterećenjima.
Poređenje ne svodi se samo na kategoriju čipa. LAICS razvrstava rešenja prema tome da li se isporučuju kao čip, kartica ili sistem, a zatim sagledava odnos vršnih performansi i vršne potrošnje. Efikasnost i učinak zavise od načina projektovanja, pa ista klasa akceleratora ne odgovara nužno svakom zadatku.
Javni podaci i promenljivo tržište
Podaci u radovima prikupljeni su iz javno dostupnih izvora. To ograničava poređenje jer pojedine kompanije ne objavljuju podatke o performansama i potrošnji. Reuther zato svakodnevno prati tehničke medije, citate, objave kompanija i industrijske prezentacije kako bi pregled ostao ažuran.
Svaki rad iz serije dodaje i novu temu. Studija iz 2022. povezala je rast performansi sa manjim i gušćim tranzistorskim dizajnom, kao i upotrebom niže numeričke preciznosti. Najnoviji rad razmatra arhitektonske izbore, uključujući veći broj jezgara po procesoru i paralelne performanse.
Reuther navodi da je u prethodnih nekoliko meseci šest novih startapa predstavilo prve AI akceleratore. Za poslovanje je praktičan zaključak da izbor hardvera treba zasnivati na proverljivim metrikama, konkretnom radnom opterećenju i energetskom zahtevu, uz svest da se ponuda akceleratora brzo menja.