Apple pooštrava pravila protiv skrivenih AI aplikacija za „nudifikaciju“
Apple je pooštrio smernice za programere kako bi zabranio aplikacije koje koriste veštačku inteligenciju za stvaranje uvredljivog sadržaja, uključujući aplikacije za „nudifikaciju“. Nova pravila ciljaju i proizvode koji se tokom provere predstavljaju kao obične aplikacije, a nakon odobrenja otkrivaju štetne funkcije ili ih ističu u prvi plan.
Zabrana skrivenih i nedokumentovanih funkcija
Kompanija izričito zabranjuje skrivene ili nedokumentovane mogućnosti u App Storeu. To obuhvata aplikacije koje pogrešno predstavljaju svoju namenu tokom procesa provere, pa tek posle odobrenja aktiviraju funkciju „nudifikacije“. Apple takvu praksu naziva bait-and-switch pristupom.
Apple je saopštio da će uklanjati aplikacije koje dodaju funkcije koje nisu postojale u verziji dostavljenoj na proveru za App Store. Time se pravila ne odnose samo na opis aplikacije i početno izdanje, već i na promene koje programer uvodi nakon objavljivanja.
Obaveze za aplikacije sa sadržajem korisnika
Aplikacije koje hostuju sadržaj korisnika moraju da filtriraju neprihvatljiv materijal, korisnicima omoguće prijavu uvredljivog sadržaja i obezbede način za blokiranje naloga koji zlostavljaju druge. Apple je dodatno pooštrio pravni deo smernica kako bi naglasio zabranu aplikacija koje promovišu trgovinu ljudima i eksploataciju dece.
Regulatorni pritisak se pojačao i u San Francisku, gde su gradske vlasti u julu naložile Appleu i Googleu da uklone aplikacije za „nudifikaciju“ iz svojih prodavnica. U tom kontekstu, zahtev San Franciska za uklanjanje nudify aplikacija pokazuje da zahtev nije bio ograničen samo na jednu platformu, već je obuhvatio i App Store i Google Play.
Šta brojevi govore programerima
Apple je naveo da je prošle godine sprečio više od 150.000 aplikacija da stignu do korisnika i uklonio 193.000 naloga programera zbog prevara i zloupotreba. Ti podaci pokazuju obim kontrole koju kompanija već sprovodi nad prodavnicom aplikacija.
Za poslovne timove najvažnija je doslednost: funkcionalnosti prijavljene na proveri, stvarno ponašanje aplikacije i kasnija ažuriranja moraju biti usklađeni. Kod proizvoda sa generativnom AI i sadržajem korisnika, moderacija, prijavljivanje i blokiranje naloga postaju sastavni deo usklađenosti sa pravilima App Storea.