Meta objavila otvoreni Muse Glimmer za lokalne AI agente
Meta je objavila Muse Glimmer, otvoreni model sa 30 milijardi parametara namenjen pokretanju AI agenata lokalno na potrošačkom hardveru. Model je otvorena verzija Metinog snažnijeg zatvorenog modela Muse Spark, a njegove težine dostupne su pod dozvoljenom licencom Apache 2.0.
Glimmer je predviđen za rad na Mac ili PC računaru sa jednom potrošačkom GPU karticom. Podržava tekst i slike, a Meta navodi da je obučen na više od 100 jezika. Razvojni timovi mogu da ga preuzmu, menjaju i prilagode sopstvenim potrebama.
Agenti za višekoračne lokalne zadatke
Za razliku od modela ograničenih na pojedinačni upit i odgovor, Muse Glimmer je namenjen agentima koji izvršavaju duže tokove rada. To uključuje pozivanje alata, pisanje i otklanjanje grešaka u kodu, rad sa fajlovima i snimcima ekrana, kao i završavanje zadatka kroz više koraka.
Meta kao moguće primene navodi upravljanje rasporedom, sastavljanje poruka i organizovanje fajlova. Takvi zadaci po pravilu zahtevaju opsežan pristup ličnim podacima, pa lokalno izvršavanje dobija praktičan značaj: informacije mogu ostati na korisnikovom uređaju umesto da se šalju u oblak.
Otvoreni model i zatvoren snažniji sistem
Glimmer je deo šire vizije Marka Zakerberga o širokoj dostupnosti napredne veštačke inteligencije pojedincima. Meta ga opisuje kao model koji može da bude stalno aktivan i da radi bilo gde, u bilo kom trenutku, sa internet vezom ili bez nje.
Ipak, objava istovremeno jasno pokazuje razliku u Metinoj strategiji distribucije. Dok je Glimmer moguće preuzeti, fino prilagoditi i pokretati na sopstvenom hardveru, snažniji Muse Spark ostaje model zatvorenih težina. U kontekstu Muse Spark 1.1 u agentnom programiranju Glimmer potvrđuje da Meta odvojeno pozicionira otvorene lokalne modele i sposobnije sisteme koje zadržava pod sopstvenom kontrolom.
Šta to znači za organizacije
Za kompanije koje razmatraju AI agente, Muse Glimmer otvara mogućnost da procene lokalno pokretanje, prilagođavanje modela i rad sa internim materijalima. Otvorene težine i Apache 2.0 licenca olakšavaju eksperimentisanje, ali ne uklanjaju potrebu za procenom hardverskih zahteva, dozvola pristupa podacima i nadzora nad radnim tokovima.
Praktičan poslovni zaključak je da lokalni agenti mogu biti naročito relevantni tamo gde su privatnost podataka, rad bez stalne mrežne veze i prilagođavanje procesu važniji od oslanjanja na udaljeni servis.