VMTech
Razgovarajmo →

OpenAI širi alate za borbu protiv seksualne eksploatacije dece

OpenAI širi alate za borbu protiv seksualne eksploatacije dece

OpenAI je 16. novembra 2026. objavio novi klasifikator slika za otkrivanje potencijalnog materijala seksualnog zlostavljanja dece (CSAM), uključujući sadržaj koji je možda generisan veštačkom inteligencijom. Proveravane organizacije mogu da zatraže besplatan pristup alatu preko OpenAI API-ja, dok kompanija istovremeno uvodi intervencije u ChatGPT-u, smernice za programere i podršku specijalizovanim policijskim jedinicama.

Klasifikator daje prioritet slikama za ljudsku proveru

Novi sistem traži vizuelne pokazatelje zlostavljanja i vraća rezultate koji timovima za bezbednost pomažu da odrede koje slike prvo treba pregledati. OpenAI ga opisuje kao prvi široko dostupan CSAM klasifikator sa posebnim signalom za procenu da li je sporni materijal možda nastao uz pomoć AI-ja.

Razvoj, obuka i evaluacija sprovedeni su uz podršku organizacije National Center for Missing and Exploited Children, koja upravlja centralizovanim sistemom prijava CyberTipline. OpenAI je naveo da je alat testiran interno i sa ranim partnerima kako bi se proverili obuhvat otkrivanja, učestalost označavanja drugih slika i upotrebljivost za timove za bezbednost.

U proceni nad slikama koje su korisnici otpremali, novi klasifikator je označio procenjenih 48% manje slika od postojećih zaštita, uz približno isti broj pronađenih slika sa zlostavljanjem. Slike koje je označio bile su približno dvostruko češće povezane sa zlostavljanjem. U testiranju kompanije fal, ljudski recenzenti su 72% oznaka visoke pouzdanosti potvrdili kao novi CSAM, dok je SafetyKit u procenama crteža i animacija koje seksualizuju decu otkrio 90% slučajeva.

Upozorenja u ChatGPT-u i smernice za razvojne timove

OpenAI već zabranjuje CSAM i obučava modele da odbiju takve zahteve. Nova upozorenja u ChatGPT-u prekidaće pokušaje pronalaženja spornog materijala, objašnjavaće štetu i upućivaće korisnike na pomoć za prekid štetnog ponašanja. Nakon označenog razgovora, kompanija će ukloniti razgovor i pauzirati pristup ChatGPT-u na 24 sata.

Ponovljena kršenja mogu dovesti do dužih ograničenja, zatvaranja naloga ili prijave vlastima. Pristup je razvijen uz doprinos organizacija Protect Children i Lucy Faithfull Foundation, kao i stručnjaka koji se bave prevencijom seksualnog zlostavljanja dece.

Kompanija je objavila i smernice za CSAM namenjene programerima. One obuhvataju pravila, prijavljivanje korisničkih zabrinutosti, alate za otkrivanje, procese pregleda i prijavljivanja sumnjivog sadržaja, bezbednosne identifikatore i podršku ljudima koji pregledaju osetljiv materijal. U njihovom oblikovanju učestvovali su Tech Coalition, Thorn, NCMEC i Internet Watch Foundation.

Podrška istražiteljima i saradnja u industriji

OpenAI sarađuje sa Tech Coalition i ROOST na širenju pristupa klasifikatoru, podržava Thornov sistem Safer i učestvuje u programu Lantern za razmenu signala o onlajn seksualnoj eksploataciji i zlostavljanju dece. Sa Anthropic-om i Google-om kompanija je takođe zajednički naručila smernice Tech Coalition-a za postupanje kada AI sistemi prime prijave o eksploataciji dece.

Za specijalizovane istražitelje planirani su alati i obuke za upotrebu AI-ja u istragama. Prvi alat treba da omogući pregled dugih dnevnika razgovora i odgovora na pravne zahteve, pronalaženje mogućih veza i sastavljanje vremenskih linija, uz povezivanje nalaza sa izvornim materijalom. Poslovni zaključak je da sistemi koji obrađuju korisnički sadržaj moraju spojiti automatizovano rangiranje rizika, stručnu ljudsku proveru, pouzdane tokove prijave i saradnju sa organizacijama za zaštitu dece i nadležnim institucijama.

#childsafety#aisecurity#contentmoderation#trustandsafety
Otvorena analitika
Na sajtu 0 pregleda
min čitanja 4 16.11.2026
Instagram

OpenAI širi alate za borbu protiv seksualne eksploatacije dece

Otvorite objavu na Instagramu ↗