Opera One dobija WebAI za lokalno izvršavanje AI modela
Opera je predstavila WebAI, novi veb standard za pokretanje AI modela direktno u pregledaču bez oslanjanja na cloud infrastrukturu. Rani pregled funkcije dostupan je u pregledaču Opera One, uz najavu da će istu podršku uskoro dobiti Opera GX i Opera Neon. WebAI je zamišljen za rad sa različitim open-weight modelima, među kojima Opera navodi Google Gemma, dok je na Mac računarima podržan i Appleov osnovni model koji radi na uređaju.
AI obrada ostaje u pregledaču i na uređaju
Osnovna ideja WebAI-ja je da korisnik može da koristi AI funkcije bez slanja sadržaja na servere kompanije koja pruža model. Opera navodi generisanje teksta, klasifikaciju sadržaja i razumevanje odnosa među informacijama kao zadatke koji se mogu izvršavati neposredno u pregledaču.
Funkcija nije uključena podrazumevano: korisnik bira da li želi da joj pristupi. Takav pristup je važan jer AI asistenti često obrađuju lične i poslovne informacije, a lokalno izvršavanje daje korisniku veću kontrolu nad podacima koje model obrađuje na njegovom računaru.
WebAI nije vezan za jedan model. Opera ga predstavlja kao osnovu za širi skup open-weight AI sistema, odnosno modela čije su težine javno dostupne i koje je moguće preuzeti i prilagođavati. Takvi modeli su često dostupni bez naknade za preuzimanje i korišćenje, ali nisu nužno potpuno open-source softver i mogu imati ograničenja upotrebe.
Manje cloud zavisnosti, veći zahtevi prema hardveru
Za razvojne timove lokalna obrada može značiti da AI funkcije dodaju bez održavanja sopstvene AI infrastrukture i bez troška za svaki zahtev upućen cloud servisu. Za krajnje korisnike to može ukloniti potrebu za AI pretplatom u scenarijima koje lokalni model može da pokrije.
Ipak, prenos obrade na uređaj ne uklanja sve rizike privatnosti, niti je bez tehničkih ograničenja. Pokretanje modela lokalno više opterećuje računar, a Opera naglašava da će performanse zavisiti od hardverskih mogućnosti uređaja. Razlike između računara zato mogu uticati na brzinu i praktičnost rada sa istom funkcijom.
Šta vredi proceniti u poslovnom okruženju
WebAI pokazuje kako pregledač može postati mesto za lokalne AI zadatke, umesto samo pristupna tačka cloud uslugama. Pre primene u poslovnim tokovima potrebno je proveriti koji modeli su podržani, koje uslove licenci imaju, kakve su performanse na raspoloživim uređajima i koje podatke funkcija zaista obrađuje lokalno. Praktičan zaključak je da lokalnu AI obradu treba birati kada su kontrola podataka i kapacitet uređaja usklađeni sa konkretnim zadatkom.