OpenAI blokirao rusku mrežu koja je koristila ChatGPT za uticaj
OpenAI je zabranio klaster ruskih ChatGPT naloga koji su, koristeći VPN za zaobilaženje ograničenja pristupa, podržavali operaciju uticaja povezanu sa International Burke Institute (IBI). Nalozi su stvarali objave i komentare za Substack, Telegram, X, Facebook i LinkedIn, dok su pojedini Telegram kanali okupili približno 10.000 do 20.000 pratilaca.
Operacija je promovisala IBI, organizaciju koja se predstavlja kao izraelska međunarodna stručna zajednica za ekonomiju, politiku, sociologiju i međunarodne odnose. OpenAI je istragu započeo od objava generisanih uz pomoć AI, a potom identifikovao širu infrastrukturu namenjenu prikrivanju ruskog porekla operatera i stvaranju utiska kredibilne institucije.
AI kao pomoćni alat u izgradnji privida autoriteta
Većina generisanog sadržaja bila je na engleskom jeziku. Operateri su od ChatGPT-a tražili da ukloni jezičke tragove koji bi mogli da ukažu na rusko poreklo. Jedan korisnik je alat upotrebio i za izradu profilne slike Telegram kanala American Observer, kao i za ponovljene sažetke aktivnosti tog kanala na ruskom.
OpenAI nije naveo dokaze da je ChatGPT korišćen za izradu članaka na sajtu IBI-ja. Međutim, kompanija ukazuje da su brojni tekstovi delovali kao prepisani iz akademskih radova, ponekad uz pogrešno pripisano autorstvo, dok su drugi izgledali kao tekstovi slovačkog govornika mašinski prevedeni na engleski.
Indeks suvereniteta kao centralni sadržaj kampanje
IBI je registrovao domen ibi.institute u februaru 2025. godine i promovisao takozvani Sovereignty Index, odnosno Burke Index. Indeks sabira sedam oblasti suvereniteta: političku, ekonomsku, tehnološku, informacionu, kulturnu, kognitivnu i vojnu. Svaka oblast koristi koeficijente izjednačavanja i maksimalno 100 poena, pa zbir daje rezultat u rasponu od 100 do 700.
Na objavljenoj listi Sjedinjene Američke Države imaju 650,9 poena, Kina 649,1, Švajcarska 610,7, a Rusija 601,4. OpenAI ocenjuje da se posebnost ove operacije ne ogleda toliko u dosegu publike, koliko u infrastrukturi: promovisane objave vodile su ka instituciji koja je izgledala uverljivo, sa navodnim stručnjacima, ponovo objavljenim akademskim radovima i sopstvenim indeksom rizika.
Provera izvora pre poslovne upotrebe
Ovaj slučaj pokazuje kako se generativna AI može koristiti kao dopuna širem naporu da se proizvedu autoritet, prikrije poreklo poruka i izgrade resursi koji se kasnije mogu širiti. Za poslovne timove praktičan zaključak je da pre oslanjanja na istraživanja, indekse i analize proveravaju poreklo organizacije, autorstvo materijala, metodologiju merenja i nezavisne potvrde iznesenih tvrdnji.