Njujork optužuje TikTok za nefunkcionalni test bezbednosne opcije
Država Njujork u tužbi tvrdi da je TikTok tokom eksperimenta hiljadama korisnika, uključujući decu i tinejdžere, pružio nefunkcionalnu verziju alata Algo Refresh. Funkcija je namenjena resetovanju preporuka kako bi korisnik prestao da dobija neželjen ili potencijalno štetan sadržaj, ali se kod učesnika testa prikaz sadržaja navodno nije promenio.
Navod se odnosi na korisnike koji su verovali da su aktivirali bezbednosnu opciju. Za razliku od njih, korisnici van eksperimenta imali su pristup potpuno funkcionalnoj verziji istog alata. Time je predmet spora postalo ne samo postojanje kontrole, već i to da li je ona u testiranom obliku zaista ispunjavala očekivanu svrhu.
Šta Njujork stavlja na teret platformi
Tužba Njujorka jedna je od više od dve desetine postupaka koje su američke savezne države pokrenule protiv TikToka. Države optužuju kompaniju da je platformu oblikovala tako da podstiče zavisničko korišćenje među decom i da korisnike dovodi u zabludu u vezi sa zaštitnim merama.
U dokumentima se pominju i drugi eksperimenti. Bloomberg je u junu izvestio o testu u kojem je bezbednosna funkcija uskraćena za 15 miliona korisnika u SAD, uključujući tinejdžera koji je kasnije preminuo samoubistvom. Taj navod je deo šireg spora o načinu na koji se bezbednosne kontrole uvode, testiraju i predstavljaju korisnicima.
TikTokov odgovor i pitanje proverljivosti
TikTok je Reutersu saopštio da, kao i većina kompanija, redovno testira nove proizvode i funkcije kako bi potvrdio korisničko iskustvo i razumeo njihov rad u stvarnim uslovima. Kompanija nije odmah odgovorila na dodatni zahtev za komentar.
Posebnu težinu slučaju daje činjenica da su korisnici aktivirali opciju očekujući promenu preporuka. U vezi sa senatorski zahtev za detalje TikTok eksperimenta ostaje otvoreno pitanje pod kojim uslovima platforma može testirati zaštitne funkcije, a da korisnici jasno razumeju šta im je u tom trenutku dostupno.
Pouka za digitalne proizvode
Za organizacije koje razvijaju digitalne servise, ovaj spor naglašava važnost jasnog označavanja eksperimentalnih režima i preciznog obaveštavanja o ograničenjima funkcija. Kada se alat predstavlja kao zaštita, poslovno odgovoran pristup podrazumeva da njegov stvarni efekat bude razumljiv korisniku i da se može proveriti u praksi.