Нью-Йорк заявил о неработающей функции защиты TikTok в эксперименте
Власти Нью-Йорка утверждают, что TikTok в ходе эксперимента предоставлял тысячам пользователей, включая детей и подростков, неработающую версию функции Algo Refresh. Инструмент должен сбрасывать рекомендации и прекращать показ нежелательного или потенциально вредного контента, однако ленты участников теста, по версии иска, не менялись.
Пользователи, подключившие функцию, могли считать, что защита активирована. В то же время участники, не включённые в эксперимент, получали полностью работающую версию инструмента обновления рекомендаций.
Суть претензий Нью-Йорка
Обвинения изложены в иске штата против платформы. Это одно из более чем двух десятков дел, в которых американские штаты обвиняют TikTok в проектировании сервиса для поощрения вызывающего зависимость использования детьми и во введении пользователей в заблуждение относительно мер безопасности.
Публичный контекст разбирательства дополняет требование сенаторов США раскрыть детали эксперимента с защитой о требовании сенаторов США раскрыть детали эксперимента с защитой, поскольку вопрос касается того, как платформа информировала пользователей о доступности и работе защитных механизмов.
Что ответил TikTok
В комментарии Reuters компания заявила, что постоянно совершенствует платформу и, как большинство компаний, регулярно тестирует новые продукты и функции. Цель таких проверок TikTok описал как оценку пользовательского опыта и понимание работы функций в реальных условиях.
Отдельно в иске упоминаются и другие эксперименты. Bloomberg в июне сообщал об одном из них: функция безопасности была недоступна 15 млн пользователей в США, среди которых был подросток, позднее покончивший с собой. В представленном фрагменте не приводятся выводы о связи между этим экспериментом и смертью подростка.
Практический вывод
Для компаний, тестирующих инструменты безопасности, этот спор подчёркивает важность точного описания статуса функции для участников эксперимента. Если средство защиты заявлено как включённое, необходимо отдельно контролировать, выполняет ли оно заявленное действие и чем тестовая версия отличается от доступной остальным пользователям.