Ekspert na suđenju protiv OpenAI upozorio na pretnju trke za AGI i sukob sa bezbednošću

Dragi prijatelji, iz sveta veštačke inteligencije: na suđenju Ilona Maska protiv OpenAI nastupio je jedini ekspert odbrane, prof. Piter Rasel. On je ukazao na rizike sajber-napada, probleme usklađivanja ciljeva i „trku” za AGI u kojoj pobednik osvaja sve. Rasel je potpisao apel za pauzu u istraživanjima (mart 2023), ali je sud ograničio deo njegovih iskaza o egzistencijalnim rizicima. Advokati OpenAI zahtevali su da ne ocenjuje korporativnu strukturu i konkretne politike kompanije. Zašto je ovo važno: slučaj pokazuje kako komercijalni pritisak dolazi u sukob sa bezbednosnim zahtevima i kako će sudovi tumačiti takve argumente. Po Vašem mišljenju, mogu li regulatori zaustaviti trku za AGI? #AI #sajberbezbednost #regulacija #AGI