Osaurus for Mac: local and cloud LLMs on your device

Osaurus za Mac: lokalni i oblačni LLM na Vašem uređaju

Dragi kolege, želim podeliti vest iz sveta veštačke inteligencije: Osaurus — otvoreni LLM server za macOS, koji omogućava prebacivanje između lokalnih i oblačnih modela i čuvanje fajlova na Vašem uređaju.

Prema TechCrunch-u, projekat je nastao iz ideje lokalnog asistenta Dinoki. Autori su napravili intuitivan interfejs i hardverski izolovanu peskovnicu radi bezbednosti.

Osaurus podržava brojne modele i oblačne provajdere i više od 20 plugina (e‑pošta, kalendar, pregledač, fajlovi).

Za lokalno pokretanje potrebni su resursi (od ~64 GB RAM; za velike modele ≈128 GB). Projekat je preuzet više od 112.000 puta.

Zašto je ovo važno: lokalni AI daje kontrolu nad podacima i smanjuje zavisnost od data-centara.

Kako Vi procenjujete potencijal lokalnog AI za poslovanje?
#veštačkaInteligencija #lokalniAI #macOS #privatnost