Underdog uvodi lokalnog AI asistenta sa modelom od 27 milijardi parametara
Sigil Wen je pokrenuo beta program po pozivu za Underdog, AI asistenta kompanije Conway Research koji se izvršava u potpunosti na uređaju korisnika. Aplikacija trenutno podržava Mac i Windows računare, koristi rezonujući model Qwen3.8 27B sa 27 milijardi parametara i nema planirani model prihoda zasnovan na oglasima ili pretplati.
Podaci ostaju na korisnikovom računaru
Osnovna razlika u odnosu na asistente koji obrađuju zahteve u udaljenim data centrima jeste lokalno izvršavanje modela. Wen navodi da podaci korisnika ostaju na uređajima koje već poseduju. Verzije za Linux, iPhone i Android najavljene su kao naredni korak.
Za rad modela Wen je razvio Husky, mehanizam za inferencu, odnosno softver koji izvršava AI modele. Prema njegovom objašnjenju, Husky je projektovan tako da prenosi manje podataka između glavnog čipa računara i grafičkog čipa nego drugi lokalni mehanizmi.
Underdog uključuje i šifrovanje ključeva za naloge kojima korisnik odobri pristup, uključujući e-poštu. Takav pristup je važan zato što koristan asistent može tražiti pristup osetljivim informacijama, od zdravstvenih i finansijskih podataka do podataka o deci.
Manji model i drugačiji prihod
Model u Underdogu manji je od najsavremenijih modela koji rade u data centrima. Wen tvrdi da fino podešeni Qwen3.8 27B u pojedinim merilima može da se poredi sa Claude Opus 4.6, a kao tipične zadatke navodi istraživanje kupovine i odgovaranje na pitanja iz matematike.
Kompanija namerava da aplikaciju najpre ponudi besplatno i bez oglašavanja. Pošto se inferenca odvija na korisnikovoj mašini, Conway Research ne plaća eksternog provajdera za svaki zahtev. Umesto pretplate, plan je da Underdog uzima mali procenat od platnih transakcija koje asistent izvrši preko bezbedne platne infrastrukture kompanije Stripe.
Conway Research podržavaju Andreessen Horowitz, Khosla Ventures, Hummingbird, SV Angel i Anthology Fund, partnerstvo fondova Menlo Ventures i Anthropic. Među anđeoskim investitorima su Patrick Collison, Guillermo Rauch, Noam Brown i Deedy Das.
Šta to znači za organizacije
Underdog ilustruje model u kojem se odluke o privatnosti, hardverskim zahtevima i poslovnom modelu donose zajedno. Organizacije koje procenjuju AI asistente treba da utvrde gde se izvršava model, kojim se podacima odobrava pristup, kako se čuvaju pristupni ključevi i da li model prihoda podrazumeva korišćenje podataka korisnika.
Za poslovanje je praktičan zaključak da lokalni AI asistent može smanjiti zavisnost od obrade u data centrima, ali izbor treba zasnovati na konkretnim zadacima, uređajima zaposlenih i pravilima za pristup osetljivim podacima.