VMTech
Razgovarajmo →

MIT i Cornell unapređuju detekciju prikrivenog AI teksta

MIT i Cornell unapređuju detekciju prikrivenog AI teksta

Istraživači sa MIT-a i Cornell Tech-a predstavili su pristup koji detektorima AI teksta omogućava prilagođavanje novim obrascima pisanja tokom rada. U testu teksta namerno prerađenog da izgleda kao da ga je napisao čovek, komercijalni detektor prepoznao je oko 27% sadržaja, dok je metoda test-time adaptation dostigla više od 93% tačnosti.

Rad pod naslovom Hitting a Moving Target: Test-Time Adaptation for AI Text Detection under Continual Distribution Shift biće predstavljen na konferenciji Neural Information Processing Systems. Autori su Kevin Ren sa Cornell Tech-a, Manish Raghavan sa MIT-a i Nikhil Garg sa Cornell Tech-a.

Detektori rade u promenljivom okruženju

Alati za prepoznavanje teksta koji su sastavili veliki jezički modeli obično se treniraju na unapred prikupljenim primerima ljudskog i AI pisanja. Problem nastaje kada se sadržaj koji stiže na proveru razlikuje od podataka za obuku. Takva promena distribucije može biti posledica promena u ljudskom jeziku, pojave novih modela ili namernog preoblikovanja generisanog teksta.

Istraživači navode i ciklus nadmetanja između proizvođača detektora i korisnika koji žele da ih zaobiđu. Softveri za takozvano humanizovanje menjaju AI tekst kako bi delovao ljudski, a razvojni timovi zatim moraju da takve primere uključe u naredna ažuriranja modela.

Učenje iz novih, neoznačenih tekstova

Test-time adaptation menja taj postupak tako što model nije potpuno nepromenljiv nakon puštanja u rad. Detektor se prilagođava novim, neoznačenim tekstovima koje korisnici dostavljaju. Pošto ti primeri odražavaju savremene obrasce ljudskog i mašinskog pisanja, model može da uči njihove karakteristike bez ponovnog treniranja od nule.

U eksperimentima koji su simulirali postepene promene u ljudskom pisanju, detektor sa ovom tehnikom ostvario je 85% tačnosti, dok su tradicionalne metode dostigle 73%. Za tekst posebno oblikovan da izbegne detekciju, razlika je bila znatno veća: postojeće metode identifikovale su oko 27%, a prilagođeni model više od 93% takvog sadržaja.

Gde su granice primene

Autori ističu da pristup može biti koristan obrazovnim ustanovama, uredništvima, izdavačima i službama za zapošljavanje kada treba označiti tekst koji se predstavlja kao ljudski. Navode i moguću primenu u sajber-bezbednosti, za prepoznavanje phishing poruka i prevara vezanih za optimizaciju za pretraživače.

Ipak, test-time adaptation nije predstavljen kao trajno rešenje za svaki slučaj. Kako budući veliki jezički modeli budu stvarali prirodniji tekst, a proverljivo ljudski sadržaj bude teže dostupan, razlikovanje autora može postati znatno teže. Za poslovanje je praktičan zaključak da rezultat detektora treba koristiti kao signal za dodatnu proveru, uz redovno prilagođavanje alata promenama u sadržaju koji se procenjuje.

#artificialintelligence#machinelearning#aigovernance#cybersecurity
Otvorena analitika
Na sajtu 4 pregleda
min čitanja 3 18.11.2026
Instagram

MIT i Cornell unapređuju detekciju prikrivenog AI teksta

Otvorite objavu na Instagramu ↗