OpenAI prekinuo rusku i iransku operaciju lažnih frontova
OpenAI je blokirao dve mreže naloga ChatGPT povezane sa operacijama uticaja iz Rusije i Irana: rusku kampanju „Dark Clark”, ocenjenju kao kategoriju 5 na skali IO Breakout Scale od 1 do 6, i iransku „Bogus Bylines”, čiji je rad sa člancima ocenjen kategorijom 4. Ruska mreža koristila je paravan Social Research Center (SRC) u Latinskoj Americi, dok je iranska koristila sedam lažnih novinarskih potpisa i plasirala gotovo 100 članaka kroz više od deset onlajn izdanja.
Obe operacije spajale su generativnu AI sa postojećim tehnikama obmane: lažnim identitetima, sadržajima predstavljenim kao procureli materijali, društvenim mrežama i pokušajima da poruke dospeju do stvarnih medija. OpenAI navodi da je informacije o slučajevima podelio sa nadležnim organima.
Ruska mreža i paravan u Latinskoj Americi
Akteri koji su delovali iz Rusije pristupali su ChatGPT-u preko VPN-a i uglavnom postavljali upite na ruskom jeziku. Model su najčešće koristili za izradu i ažuriranje internih izveštaja nepoznatom nadređenom, za pripremu sadržaja i za izveštavanje o radu SRC-a. Aktivnosti su bile usmerene na narušavanje ugleda Ukrajine, kao i na lokalna politička pitanja, posebno u Argentini i Boliviji.
Prema nalazima OpenAI-ja, operateri su preko izmišljene persone „Mia Clark” upravljali SRC-om i komunicirali sa osobljem u Latinskoj Americi. Interni materijali pominjali su zapošljavanje, otpuštanje, platne razrede i istraživačke projekte, što ukazuje na kontrolu nad organizacijom. Dostupni dokazi upućuju na to da zaposleni na terenu nisu znali da rade za rusku grupu.
SRC je objavio više od 60 tekstova, pri čemu je većina delovala kao originalan rad lokalnog osoblja. Operateri su istovremeno prijavljivali pokušaje izgradnje mreže naloga na društvenim mrežama. Na LinkedInu su, prema njihovim izveštajima, pravili dodatne lažne naloge da bi početni nalog SRC-a izgledao uverljivije.
Lažni dokumenti, snimci i preuveličani učinak
Ruska operacija je povremeno tražila pomoć modela za lokalizaciju jezika, prevode i stil lažnih materijala. Jedan primer obuhvatao je prevod i scenario za audio-zapis koji je trebalo da prati pismo o navodnoj korupciji ukrajinskog počasnog konzula u Panami. U drugom slučaju, operater je tražio lekturu ugovora na španskom, koji je potom korišćen za podupiranje tvrdnji o regrutovanju državljana Ekvadora za rat u Ukrajini.
OpenAI je deo navoda operatera potvrdio javno dostupnim tragovima, uključujući medijske tekstove, demantije institucija i provere činjenica. Ipak, kompanija upozorava da se njihove interne tvrdnje o učinku ne mogu prihvatiti bez rezerve, jer su akteri pokušavali da pripišu sebi aktivnosti s kojima nisu bili povezani.
Iranski potpisi ispod članaka
Iranska mreža je koristila ChatGPT na persijskom i engleskom, takođe uz VPN, za doterivanje dužih tekstova, uređivanje ponuda redakcijama, generisanje komentara i pripremu internih izveštaja. Sedam lažnih potpisa predstavljalo se kao zapadni novinari. Tekstovi su pretežno obrađivali sukob SAD i Irana, a najranije identifikovane objave potiču iz jula 2025, dok su najnovije iz oktobra 2026.
Operateri su tražili da se nacrti usklade sa kriterijumima pojedinih izdanja, a zatim su pripremali elektronske poruke za urednike. Otkriveno je gotovo 100 objavljenih ili sindiciranih članaka. Nasuprot tome, masovni komentari na društvenim mrežama uglavnom nisu ostvarili značajnije reakcije, pa je taj deo aktivnosti ocenjen kategorijom 2.
Poseban problem predstavljalo je merenje rezultata: operateri su kao pokazatelj uticaja koristili broj pregleda originalnih objava pre i posle svojih odgovora, a ne preglede samih komentara. Takva metoda ne odvaja učinak kampanje od popularnosti početne objave i drugih reakcija, pa može znatno da uveća prikazani domet.
Poslovna pouka
Ovi slučajevi pokazuju da AI može da ubrza prevođenje, uređivanje, prilagođavanje lokalnom jeziku i administrativni rad operacija uticaja, dok se proboj i dalje oslanja na ljudsko poverenje. Za organizacije je praktičan zaključak da provere identiteta saradnika, porekla dokumenata i postupaka redakcijskog ili internog odobravanja treba primenjivati dosledno, naročito kada sadržaj dolazi kroz naizgled kredibilne posrednike.