MIT: odgovornost za javni tekst mora ostati ljudska
Profesor Deb Roj sa MIT-a i direktor MIT Centra za konstruktivnu komunikaciju pozvao je na jasnu odgovornost za svaki javni tekst, uključujući sadržaj koji oblikuju veliki jezički modeli. Kao upozoravajući primer naveo je da je Federalna komisija za komunikacije SAD 2017. primila više od 22 miliona komentara o ukidanju pravila neutralnosti mreže, dok je njujorški državni tužilac kasnije utvrdio da je gotovo 18 miliona bilo lažno.
Javni komentar bez prepoznatljivog autora
Masovno proizvedeni komentari nisu nova pojava, ali su se ranije lakše prepoznavali po ponovljenim formulacijama i šablonskom tekstu. Roj smatra da veliki jezički modeli menjaju taj odnos: mogu da generišu gramatički tečne i međusobno različite poruke, zbog čega je teže utvrditi da li iza njih stoji osoba sa sopstvenim stavom i interesom u postupku.
Za javne konsultacije to ima neposredan značaj. Mogućnost da građani iznesu mišljenje pre donošenja pravila doprinosi prihvatanju odluka. Ako primaoci komentara ne mogu da razlikuju autentične poruke od sadržaja za koji niko ne odgovara, vrednost tog kanala može biti umanjena i za učesnike i za institucije koje ih slušaju.
Stajanje iza reči i mogućnost odgovora
Roj razlikuje dva povezana zahteva: neformalno pravo osobe da govori o temi koja je se tiče i obavezu da odgovori za iznesene tvrdnje. Po njegovom tumačenju, pravo da se bude saslušan mora da prati mogućnost provere i odgovora, naročito kada se iznose konkretne optužbe.
To, međutim, ne znači da svaka poruka mora javno da otkriva identitet autora. Institucija može da potvrdi da poruku šalje jedinstvena i ovlašćena osoba, a da je ne izloži javnosti. Roj navodi da obaveze otkrivanja treba da rastu sa moći, dok zaštita identiteta treba da prati ranjivost pojedinca.
AI unutar, a ne na kraju lanca odgovornosti
MIT Center for Constructive Communication i povezani Cortico koriste tehnologiju, uključujući AI, za pronalaženje tema u grupnim razgovorima. Proces je postavljen tako da učesnici mogu da provere i nadjačaju tehnološke rezultate u svakoj važnoj fazi. AI tako može pomoći u izradi nacrta, sažimanju i prepoznavanju obrazaca, ali osoba koja sadržaj usvaja ostaje odgovorna za javnu poruku.
Roj predlaže četiri načela dizajna: pripisivo autorstvo, razložen i proverljiv proces, poreklo sadržaja kao infrastrukturu i širenje prava učešća umesto njegovog koncentrisanja. Prototip VoiceTrace, koji razvija istraživačka grupa centra, povezuje svaku izlaznu tvrdnju ili preporuku sa konkretnim glasovima iz razgovora iz kojih je nastala.
Za organizacije je praktičan zaključak jasan: pri uvođenju AI u komunikaciju i donošenje preporuka treba zadržati trag porekla sadržaja, ljudsku proveru i unapred određenu osobu ili instituciju koja može da odgovori za konačni tekst.