Senatori traže objašnjenje TikTokovog testa bez zaštitne mere
Rok za odgovor do 1. septembra
Senatori Marsha Blackburn i Richard Blumenthal zatražili su od TikToka objašnjenje eksperimenta u kojem je algoritamska bezbednosna mera bila isključena za 10% korisnika u SAD, odnosno za oko 15 miliona naloga. Pismo je upućeno izvršnom direktoru TikToka Shouu Chewu i Adamu Presseru, izvršnom direktoru američkog poslovanja kompanije, uz rok za odgovor do 1. septembra.
Bloomberg je objavio da je TikTok namerno uklonio zaštitu za deo američkih korisnika kako bi formirao kontrolnu grupu. Ta mera je bila osmišljena da spreči da korisnici budu preplavljeni štetnim sadržajem, dok je kompanija želela da utvrdi da li njeno prisustvo aplikaciju čini manje privlačnom za korišćenje.
Pitanja o maloletnicima i odgovornosti
Blackburn i Blumenthal odluku da se eksperiment sprovede nazvali su „izopačenom“. Posebno ukazuju na slučaj šesnaestogodišnjeg Chasea Nasce, koji je bio u kontrolnoj grupi. Njegov algoritamski tok prikazivao mu je hiljade videa o tuzi, samoubistvu i usamljenosti pre nego što je preminuo usled samoubistva.
Senatori su postavili ukupno 13 pitanja. Od TikToka traže imena svih zaposlenih koji su znali za eksperiment, kao i objašnjenje zbog čega je kompanija dozvolila da maloletnici budu obuhvaćeni kontrolnom grupom.
Pismo takođe zahteva spisak svih algoritamskih eksperimenata sprovedenih u SAD u kojima je neka bezbednosna funkcija bila isključena ili je njeno uvođenje odloženo. TikTok nije odmah odgovorio na zahtev za komentar koji mu je uputio TechCrunch.
Šta slučaj znači za upravljanje digitalnim proizvodima
Slučaj stavlja u prvi plan način na koji se mere zaštite tretiraju u testiranju proizvoda. Kada algoritamska funkcija služi da ograniči izloženost štetnom sadržaju, njeno uklanjanje iz eksperimentalne grupe postaje pitanje upravljanja rizikom, a ne samo merenja angažovanja.
Za kompanije koje razvijaju digitalne usluge praktičan zaključak je da eksperimenti sa funkcijama bezbednosti zahtevaju jasno definisanu odgovornost, evidenciju odluka i posebnu zaštitu ranjivih grupa korisnika. Poslovni ciljevi testiranja ne uklanjaju potrebu da se bezbednosne posledice procene pre uključivanja korisnika u kontrolne grupe.