Musubi otvorio PolicyLM-1.7B za moderaciju sadržaja u realnom vremenu
Musubi je predstavio PolicyLM-1.7B, laki model za moderaciju sadržaja u realnom vremenu, sa otvorenim težinama. Kompanija navodi da model može da primeni politiku sadržaja napisanu običnim engleskim jezikom na poruke za manje od 50 milisekundi i da pri tome daje binarnu odluku: da li sadržaj pripada zadatoj kategoriji ili ne.
Proizvod je zamišljen kao model približne cene i brzine sistemima AI klasifikatora koji se koriste za moderaciju na društvenim platformama. Razlika je u tome što PolicyLM-1.7B koristi fleksibilnost savremene LLM arhitekture kako bi tumačio složenija pravila bez posebne obuke za svaku pojedinačnu politiku.
Pravila se menjaju bez novog treniranja
Najvažnija tvrdnja Musubija jeste da promena politike ne zahteva ponovno treniranje modela. Tim koji određuje pravila može da menja tekst politike, a model zatim ta pravila primenjuje na sadržaj. To je drugačiji radni tok od sistema u kojima je za promenu klasifikacije potrebno pripremiti nove podatke i ponovo prilagođavati model.
Filip Janković, suosnivač i direktor za AI u Musubiju, ovaj pristup vezuje za potrebu produktnih timova da razumeju šta se događa na platformama dok količina sadržaja eksponencijalno raste. Njegova namena nije samo uklanjanje problematičnih objava, već i proaktivno, skalabilno i prilagodljivo označavanje sadržaja.
Šta su decision modeli
Decision modeli se u AI industriji češće pominju od objave Typesafe AI modela Jev u septembru, nakon koje su OpenAI i Amazon predstavili konkurentske modele. Umesto generisanja teksta, takvi modeli vraćaju verovatnoće ishoda ili, kao u slučaju PolicyLM-1.7B, odluku u unapred određenom skupu mogućnosti.
Ograničavanje izlaza na predodređene izbore omogućava im da rade brže i jeftinije od velikih jezičkih modela, uz zadržavanje fleksibilnosti transformarske arhitekture. Jedan od ranih slučajeva primene jeste ograničavanje nepoželjnog ponašanja AI agenata, a Musubi istu logiku usmerava na moderaciju ponašanja ljudi.
Otvorene težine i operativna provera
Janković navodi da interesovanje Musubija za ovaj pristup prethodi modelu Jev i povezuje ga sa projektom GLiNER iz 2024. godine, odnosno Generalist Model for Named Entity Recognition. Kompanija sada otvoreno pozicionira PolicyLM-1.7B kao model iste šire kategorije, ali obučen posebno za moderaciju sadržaja i namenjen pokretanju u sopstvenom okruženju.
Za organizacije koje upravljaju korisničkim sadržajem praktičan zaključak je da promene pravila, odziv ispod 50 milisekundi i binarne odluke treba proveravati na sopstvenim politikama i tokovima rada. Otvorene težine mogu olakšati takvu evaluaciju, dok stvarna upotreba zavisi od toga koliko model dosledno primenjuje konkretna pravila organizacije.