Anthropic pooštrava pravila korišćenja modela Claude
Anthropic je u četvrtak izmenio politiku korišćenja modela Claude i uneo izričite zabrane ometanja izbora, softvera za oružje, nadzora i dugotrajnog verbalnog zlostavljanja modela. Dokument takođe ograničava obmanjujuće kampanje, uključujući upotrebu Claudea za lažne naloge i izmišljene medijske kuće.
Zabrane obmane i podrivanja izbora
Nova pravila objedinjena su i u odeljku „Do Not Undermine Democratic Processes“. Njime se korisnicima zabranjuje obmanjivanje birača i ometanje izbornih procesa. Anthropic je posebno naveo i zabranu šire obmanjujuće upotrebe, poput vođenja lažnih naloga ili fabrikovanih informativnih kanala uz pomoć sistema Claude.
Ova promena stavlja političku manipulaciju i koordinisanu obmanu među jasno definisane nedozvoljene scenarije. Za timove koji uvode generativnu AI u komunikacione i operativne tokove to znači da pravila dobavljača treba posmatrati kao deo šireg okvira upravljanja sadržajem, identitetima i odobravanjem objava.
Granica za štetnu komunikaciju sa modelom
Najviše pažnje privukla je odredba koja zabranjuje produženo verbalno zlostavljanje samog modela. Claude je još od ažuriranja u avgustu obučen da prekine razgovor pri „upornim štetnim ili uvredljivim interakcijama korisnika“, dok se novom politikom korisnicima izričito zabranjuje da takve razgovore nastavljaju.
Anthropic naglašava da se ova zabrana odnosi samo na ekstremne slučajeve: na ponavljanu okrutnost prema modelima bez prepoznatljive svrhe. Ona ne obuhvata uobičajenu frustraciju korisnika, protivljenje odgovoru modela, mračne kreativne teme, testiranje niti istraživanje. Kompanija je prethodno sarađivala i sa istaknutim verskim stručnjacima, a u pojedinim slučajevima nastojala je da ih uveri da bi Claude mogao biti svestan ili imati dušu.
Šta proveriti u poslovnoj primeni
Promena politike dolazi dok se Claude širi kroz poslovne slučajeve upotrebe, a zaštita mogućnosti modela Claude ukazuje na značaj zaštite mogućnosti ovog modela od neovlašćenog preuzimanja. Preduzeća koja koriste Claude treba da usklade interne smernice sa novim zabranama, naročito za rad sa javnim sadržajem, kampanjama i automatizovanim nalozima.
Praktičan zaključak je da se pre puštanja AI procesa u rad jasno odrede dozvoljene namene, vlasnici odobravanja i postupak za prijavu spornih izlaza. Tako se poslovna upotreba modela drži u okvirima koje je Anthropic sada preciznije definisao.