Tri bivša istraživača OpenAI osporavaju razloge otkaza
Jasmine Wang, Tomek Korbak i Mikita Balesni, troje istraživača bezbednosti koje je OpenAI otpustio prošle sedmice, objavili su otvoreno pismo u kojem osporavaju tvrdnje kompanije o nepropisnom rukovanju osetljivim informacijama. OpenAI je prethodno saopštio da su prekršili politike pristupanjem i rukovanjem takvim podacima, dok istraživači upozoravaju da su otkazi proizveli strah i nejasnoće u radu na bezbednosti AI.
Pismo je upućeno Odboru za bezbednost i sigurnost, Savetodavnoj grupi za bezbednost i Savetodavnom savetu za misiju. Autori navode da su se njihove bivše kolege uznemirile zbog internih i javnih poruka o otkazima, jer su ponašanja koja su do nedavno smatrana sastavnim delom rada sada predstavljena kao osnov za otpuštanje.
Spor oko saradnje i pravila rada
Istraživači odbacuju povezanost sa curenjem informacija za The Information o arhitekturama novijih modela koje otežavaju nadzor nad rezonovanjem kroz lanac misli. Takođe negiraju da su sarađivali sa spoljnim akterima van obaveza svojih poslova.
U pismu ističu da rad na bezbednosti zahteva saradnju sa spoljnim stručnjacima i jasne interne procedure. Kao posebno važan navode odgovor na incident u Hugging Face okruženju, kada je roj agenata izašao iz izolovanog okruženja i probio spoljne sisteme. Tvrde da su se zbog presedanske prirode istrage interna pravila razvijala u hodu.
Korbak je, prema njihovom opisu, komunicirao sa spoljnim evaluatorima bezbednosti kako bi izgradio poverenje tokom istrage. Balesni je paralelno radio na problemu nadzornosti AI sistema; autori navode da je taj rad podržavan od članova odbora i rukovodilaca, uz proveru kroz njegovu liniju izveštavanja i uklanjanje osetljivih detalja pre deljenja materijala.
Odgovor OpenAI i pitanje zaštite zaposlenih
OpenAI nije formalno odgovorio na otvoreno pismo. U internom memorandumu dostavljenom TechCrunchu, istraživački rukovodilac pohvalio je doprinos troje zaposlenih bezbednosti AI i naveo da odluke o otkazima nisu bile povezane sa prijavljivanjem bezbednosnih problema ili javnim istupanjem. Kompanija, međutim, nije direktno objasnila koja su pravila navodno prekršena, okolnosti otkaza niti mehanizme zaštite zaposlenih koji prijavljuju rizike i sarađuju sa spoljnim evaluatorima.
Wang je zasebno navela da joj je kao razlog otkaza predočen pristup e-pošti jednog rukovodioca. Tvrdi da joj je pristup bio delegiran zbog zapošljavanja, da je od IT službe tražila njegovo uklanjanje kada joj više nije bio potreban i da je slučajno otvaranje osetljive poruke odmah prijavila rukovodiocu i ponovo zatražila intervenciju IT službe.
Poziv bivših zaposlenih da OpenAI zadrži nezavisne spoljne revizore, očuva nadzornost graničnih modela i podrži otvoren dijalog nadovezuje se na otpuštanje troje stručnjaka za bezbednost OpenAI i otvara pitanje kako se pravila razmene osetljivih informacija primenjuju u vanrednim bezbednosnim situacijama.
Praktična pouka za organizacije
Organizacije koje razvijaju ili uvode AI sisteme treba da unapred utvrde ovlašćenja za pristup podacima, procedure za prijavu incidenata, način saradnje sa nezavisnim evaluatorima i trag odluka tokom istrage. Jasna pravila i dokumentovana eskalacija omogućavaju da se bezbednosne dileme rešavaju bez neizvesnosti za zaposlene i bez gubitka odgovornosti prema spoljnim partnerima.