Сенаторы США потребовали от TikTok раскрыть детали эксперимента с защитой
Сенаторы Марша Блэкберн и Ричард Блюменталь потребовали от TikTok ответить на вопросы об эксперименте, в ходе которого алгоритмическую защиту отключили для 10% пользователей в США — примерно 15 млн аккаунтов. Письмо направлено гендиректору TikTok Шоу Цзы Чу и Адаму Прессеру, руководителю американского подразделения компании.
Сенаторы установили срок для ответа до 1 сентября. В обращении они назвали решение провести такой эксперимент «порочным» и запросили сведения по 13 пунктам.
Что известно об эксперименте
Как сообщал Bloomberg, TikTok намеренно отключил для контрольной группы механизм, предназначенный для защиты пользователей от чрезмерного потока вредного контента. Компания хотела выяснить, не делает ли эта мера приложение менее вовлекающим.
В контрольную группу вошёл 16-летний Чейз Наска. До смерти подростка алгоритм рекомендовал ему тысячи видео о грусти, самоубийстве и одиночестве. В публикации говорится, что Наска умер в результате самоубийства.
Эксперимент затронул не только взрослых: среди пользователей контрольной группы оказались несовершеннолетние. Именно это обстоятельство стало одним из центральных вопросов законодателей к платформе.
Какие данные требуют законодатели
Блэкберн и Блюменталь требуют назвать всех сотрудников, которые знали об эксперименте, а также объяснить, почему TikTok допустил к нему несовершеннолетних. Отдельно сенаторы просят предоставить перечень всех алгоритмических экспериментов в США, где компания отключала или откладывала запуск функции безопасности.
Ответ TikTok должен показать, как в компании принималось решение о создании контрольной группы и какие защитные механизмы применялись к её участникам. На момент публикации TikTok не ответил на запрос TechCrunch о комментарии.
Что это означает для цифровых сервисов
Ситуация подчёркивает внимание американских законодателей к тому, как социальные платформы тестируют рекомендательные системы и функции безопасности. Для бизнеса, который запускает продуктовые эксперименты, это практический сигнал: тестирование механизмов, влияющих на уязвимых пользователей, требует понятной документации, контроля доступа и отдельной оценки участия несовершеннолетних.