OpenAI pooštrava zaštitu tinejdžera i pravila o nasilju
OpenAI je najavio novi Community Safety Report i dodatna ograničenja u ChatGPT-u za sadržaj povezan s nasiljem, naročito za korisnike mlađe od 18 godina. Kompanija navodi da je u trećem tromesečju 2026. uputila više od 200 prijava organima reda zbog verodostojnih pretnji, dok će prvi javni izveštaj biti objavljen početkom 2027. godine.
Najavljene mere obuhvataju strože odgovore na pitanja o ranijim masovnim napadima, unapređeno prepoznavanje znakova rizika u toku razgovora i dodatne zaštite za tinejdžere. OpenAI kaže da zaštitu razvija uz saradnju sa stručnjacima za mentalno zdravlje i prevenciju nasilja, kao i uz oslanjanje na institucije koje mogu delovati van digitalnog okruženja.
Izveštaj o bezbednosti i stroža ograničenja
Community Safety Report treba da objasni kako sistemi otkrivaju, ispituju i rešavaju pitanja bezbednosti zajednice. OpenAI planira da uključi anonimizovane primere štete povezane s nasiljem, nova ublažavanja rizika, promene politika i podatke koji potkrepljuju nalaze. Prvo izdanje obuhvatiće drugu polovinu 2026, a zatim su predviđena ažuriranja na svakih šest meseci.
Za sve korisnike ChatGPT će pružati manje detaljne informacije o prošlim masovnim napadima i njihovim počiniocima. Ograničenja se odnose na rekonstrukcije napada, podatke o oružju i opremi, načinima pribavljanja i detaljna poređenja razmera štete koja bi mogla da povećaju publicitet napadača. I dalje će biti moguće tražiti objašnjenja posledica po žrtve i zajednice, kao i informacije o prepoznavanju upozoravajućih znakova i sprečavanju nasilja.
Reagovanje na obrasce rizika u razgovoru
OpenAI proširuje pristup u kojem kratak, činjenični sažetak ranijih upozoravajućih signala utiče na oprez u kasnijem razgovoru. Kada nedavne poruke ukazuju na moguću nameru nasilja, ChatGPT bi trebalo konzervativnije da odgovara na informacije koje se mogu zloupotrebiti. Isti stroži pragovi primenjivaće se kada sistem proceni da je korisnik mlađi od 18 godina, čak i bez vidljivog znaka nasilne namere.
Nalozi za koje se utvrdi kršenje pravila o nasilnim aktivnostima biće zabranjeni. Kada razgovor pokaže opsesivno bavljenje nasiljem ili idejom ozbiljnog povređivanja druge osobe, ChatGPT bi mogao automatski da prekine razgovor. Višestruki prekidi po tom osnovu mogu dovesti do privremenog pauziranja naloga.
Dodatna pravila za maloletne korisnike
U okviru ChatGPT for Teens sa zaštitom i režimom učenja dodatna ograničenja sada obuhvataju praktične informacije o oružju i bezbednosnim sistemima koje bi mogle da olakšaju nasilje, čak i kada pitanje naizgled nema nasilnu nameru. Tinejdžeri i dalje mogu koristiti ChatGPT za prevenciju i deeskalaciju nasilja, traženje podrške i povezivanje s odraslom osobom od poverenja.
Sistem za procenu uzrasta analizira više signala, uključujući obrasce ponašanja, a OpenAI ga je izmenio tako da tokom korišćenja ChatGPT-a neprekidno razmatra nove signale. Korisnici koji su pogrešno svrstani u iskustvo za mlađe od 18 godina mogu potvrditi punoletstvo preko partnera Persona, uz postupak koji OpenAI opisuje kao brz i usmeren na zaštitu privatnosti.
Roditeljske kontrole omogućavaju povezivanje naloga roditelja i tinejdžera i zajedničko upravljanje bezbednosnim podešavanjima. OpenAI je u julu proširio upozorenja roditeljima i na slučajeve deaktivacije naloga zbog kršenja pravila o nasilju, a radi i na obaveštenjima kada je nalog tinejdžera privremeno pauziran zbog ponavljanih razgovora o nasilju. Za poslovanje, ove promene potvrđuju da AI alati zahtevaju trajne slojevite kontrole, jasno definisane eskalacije i odvojena pravila za maloletne korisnike.