Reddit širi AI moderaciju i smanjuje oslanjanje na karmu
Reddit je proširio testiranje alata Rules Hub za moderaciju uz pomoć veštačke inteligencije: nakon primene u više od 700 zajednica, alat sada mogu da testiraju sve nove zajednice, a šira dostupnost za nove i postojeće zajednice najavljena je za kasnije tokom godine. Kompanija istovremeno razvija naprednije sisteme za sprečavanje zloupotreba koji bi mogli da smanje značaj starosti naloga i karme pri odlučivanju ko sme da objavljuje.
Manje nevidljivih prepreka za nove članove
Karma je Redditov reputacioni sistem u kome korisnici dobijaju bodove za objave i komentare koji dobijaju pozitivne glasove. Prvobitno je služila za ograničavanje spama, botova i trolova, ali su mnoge zajednice uz karmu počele da koriste i pragove starosti naloga. Takva pravila mogu otežati učešće legitimnim novim korisnicima.
Reddit ne navodi da će karma nestati. Umesto toga, namera je da ugrađeni mehanizmi zaštite preuzmu veći deo posla u prepoznavanju zloupotreba, kako bi moderatori mogli sigurnije da prihvataju nove učesnike. Kompanija navodi i probleme poput nejasnih uklanjanja sadržaja i slabog otkrivanja relevantnih zajednica.
Kako radi Rules Hub
Rules Hub koristi velike jezičke modele, odnosno LLM-ove, da proceni da li objava ili komentar odgovara nameri konkretnog pravila zajednice. Alat pomaže moderatorima da odrede kada će se pravilo automatski primeniti i koja će radnja uslediti. Reddit navodi da takav pristup bolje obrađuje nijanse, prirodni jezik i granične slučajeve.
Kompanija je proširila i druge funkcije za moderatore: jedan alat pomaže da se korisnicima pri objavljivanju i komentarisanjeu predoče pravila zajednice, dok drugi olakšava postavljanje flaira, prilagođene oznake uz korisničko ime vidljive samo u određenoj zajednici.
Širi proizvodni i poslovni kontekst
Promene zahvataju i Old Reddit, čiji će se moderatorski tokovi rada prebacivati na novi tehnološki stek, uz migraciju drugih ključnih botova. U pozadini je cilj kompanije da deo od oko pola milijarde nedeljno aktivnih korisnika podstakne na svakodnevno korišćenje proizvoda.
U drugom tromesečju Reddit je prijavio prihod od 805 miliona dolara i zaradu po akciji od 1,25 dolara, iznad procena, dok je izvršni direktor Steve Huffman saobraćaj iz pretrage opisao kao promenljiv. Pitanje oslanjanja platforme na AI pretragu ostaje povezano sa poslovnim rizicima AI pretrage za Reddit, što dodatno stavlja razvoj proizvoda u poslovni okvir.
Za organizacije koje upravljaju zajednicama, ključna poruka je da automatizacija moderacije ima smisla kada istovremeno smanjuje zloupotrebe, objašnjava pravila i ostavlja prostor legitimnim novim učesnicima.