Qualcommovi čipovi donose lokalne AI agente u telefone
Qualcomm je na godišnjem događaju Snapdragon Summit predstavio dva vodeća procesora za pametne telefone: Snapdragon 8 Elite Gen 6 i Snapdragon 8 Elite Extreme Gen 6. Kompanija ih usmerava na AI funkcije na samom uređaju: novi sensing hub može da izvršava male modele do 200 miliona parametara, dok Extreme izdanje lokalno pokreće mixture-of-experts model sa 30 milijardi parametara.
Lokalni kontekst za AI agente
Novi sensing hub zamišljen je kao stalno dostupan sloj za lakše AI zadatke. Qualcomm navodi da telefon može lokalno da vodi ličnog zapisničara, razlikuje govornike i formira memoriju na osnovu korišćenja uređaja, kako bi predlagao automatizaciju zadataka.
Kompanija takođe tvrdi da platforma može da pokreće kompletnog glasovnog agenta, od prijema govora do glasovnog odgovora. Snapdragon 8 Elite Gen 6 dobija i novi akceleratorski element, projektovan za efikasnije izvršavanje modela.
Model od 30 milijardi parametara na Extreme varijanti koristi MoE pristup: ukupna veličina modela je 30 milijardi parametara, ali se za konkretan zadatak aktivira samo deo njih. Apple je na WWDC-u u junu predstavio MoE model od 20 milijardi parametara, kao najnapredniji model treće generacije svojih osnovnih modela.
Video, zvuk i prvi najavljeni telefon
Novi CPU donosi kontrolu kamere na nivou piksela, uz unapređenu stabilizaciju i razumevanje pokreta. Snapdragon 8 Elite Extreme Gen 6 podržava snimanje videa u 8K pri 60 kadrova u sekundi i 4K pri 240 kadrova u sekundi za ultra-HD usporeni snimak, kao i Advanced Professional Video, odnosno APV kodek.
Obe platforme koriste AI za pojačavanje vokala i smanjenje šuma. Qualcomm je predstavio i tehnologiju Voice Bubble, namenjenu izolovanju korisnikovog zvuka tokom poziva. Motorola je istovremeno najavila Motorola Signature 27, telefon sa Snapdragon 8 Elite Extreme Gen 6 procesorom, čija je opšta dostupnost planirana tokom ove godine.
Šire kretanje ka AI funkcijama na telefonu povezuje se i sa Qualcommov razvoj nosivih AI uređaja koja ukazuje da Qualcomm paralelno razvija hardver za nosive AI uređaje i za mobilne platforme. Qualcomm radi na više od 40 AI uređaja, ali računa da će telefon za mnoge korisnike ostati glavni uređaj za ovakve funkcije.
Praktični zaključak
Za poslovanje je važna mogućnost da se deo glasovnih, beleški i kontekstualnih AI zadataka izvršava lokalno na telefonu. Timovi koji planiraju mobilne radne tokove treba da procene gde lokalna obrada može da donese brži odziv i manju zavisnost od mrežne veze, uz proveru stvarnih mogućnosti uređaja kada postanu dostupni.