Matematičari upozoravaju na rizike AI trke za dokazima
Dvadeset pet vodećih matematičara, svi dobitnici Fieldsove medalje, potpisalo je otvoreno pismo o načinu na koji AI laboratorije nastoje da rešavaju čuvene matematičke probleme. Istovremeno, profesor Univerziteta Njujork Tristan Buckmaster optužio je OpenAI za pritisak da ne navede saradnika zaposlenog u Anthropicu, dok je OpenAI povukao sponzorstvo matematičkog događaja na Caltechu nakon kritika tamošnjih istraživača.
U središtu spora nije samo sposobnost velikih jezičkih modela da pronađu dokaz, već uslovi pod kojima se rezultat proverava, objašnjava i pripisuje ljudima koji su mu doprineli. Autori pisma upozoravaju da se rešenja često objavljuju prebrzo, bez dovoljno vremena za potpunu razradu, izdvajanje novih metoda i navođenje prethodnih radova.
Dokaz nije dovoljan bez provere i objašnjenja
Matematička zajednica insistira da vrednost rezultata ne završava objavom tačnog odgovora. Dokaz mora biti proverljiv, razumljiv drugim stručnjacima i uklopljen u postojeći korpus znanja. Otvoreno pismo navodi da OpenAI-jev dokaz još nije verifikovan.
Potpisnici smatraju da su pitanja autorstva i plagijata naročito osetljiva kada se rešenja objavljuju u žurbi. Bez matematičara koji će razviti ideje, protumačiti ih i preneti studentima i kolegama, AI generisane ideje ne mogu postati punopravni deo matematičkog kanona.
Pritisak na otvorenost istraživanja
Buckmaster je postavio pitanje da li je OpenAI koristio rad njegovog tima kroz Codex da bi tokom intenzivnog vikenda izvođenja modela došao do sopstvenog značajnog dokaza. Takve sumnje podstiču istraživače da preispituju kako se njihova upotreba alata može odraziti na buduće modele i rezultate laboratorija.
Autori pisma upozoravaju da laboratorije na granici razvoja mogu potrošiti desetine miliona dolara na rad velikih jezičkih modela kako bi pretekle prvobitne istraživače do dokaza. Ta dinamika, prema njihovom stavu, stvara podsticaj za tajnovitost i može ugroziti kulturu otvorenog istraživanja.
Debata se nadovezuje na Leidensku deklaraciju, dokument radne grupe matematičara objavljen u junu, sa preporukama za matematičare, institucije i donosioce politika o uticaju dokaza koje stvaraju veliki jezički modeli. Širi kontekst pokazuje da se pitanja porekla rada, pristupa podacima i priznanja doprinosa ne završavaju u matematici: spor o logovima i dokazima u slučaju autorskih prava pokazuje da su zapisi i dokazni materijal važni i u sporovima o autorskim pravima.
Šta organizacije mogu da izvuku iz ovog slučaja
Za organizacije koje uvode AI u istraživačke i razvojne tokove rada, praktičan zaključak je da rezultat mora pratiti trag proverljivosti: evidentirani ulazi, pregled doprinosa, mogućnost nezavisne provere i jasna pravila za navođenje zasluga. Takav okvir ne rešava svaki spor, ali čuva mogućnost da se AI nalaz odgovorno proveri, prenese i upotrebi u daljem radu.