Reddit расширит ИИ-модерацию и снизит зависимость сообществ от кармы

Reddit объявил о расширении набора ИИ-инструментов для модераторов Rules Hub и разработке более продвинутой защиты от злоупотреблений. Компания рассчитывает, что эти системы со временем позволят сообществам меньше полагаться на возраст аккаунта и показатель karma при решении, кому разрешать публикации. Rules Hub уже применяли более 700 сообществ.

Меньше формальных барьеров для новичков

Karma — внутренняя репутационная система Reddit: пользователи получают баллы за посты и комментарии, которые набирают голоса. Изначально механизм предназначался для борьбы со спамом, ботами и троллями, однако многие сообщества дополнили его ограничениями по возрасту учётной записи.

Такие пороги могут затруднять участие добросовестным новым пользователям. Reddit не заявил об отмене karma, но указал, что её роль может сократиться, если встроенные средства предотвращения нарушений возьмут на себя больше работы по модерации.

Для компании эта задача связана и с продуктовой активностью аудитории. Во втором квартале Reddit сообщил о выручке 805 млн долларов и прибыли на акцию 1,25 доллара; при этом руководитель компании Стив Хаффман назвал переходы из поиска «неровными». На этом фоне сильный квартал Reddit и риски AI-поиска показывает, почему показатели поиска остаются заметным фактором для платформы.

Как работает Rules Hub

Rules Hub помогает модераторам выбирать, когда применять правила сообщества автоматически и какое действие выполнять при срабатывании. В основе инструмента лежат большие языковые модели: Reddit использует их, чтобы определить, соответствует ли публикация или комментарий смыслу конкретного правила.

По словам компании, такой подход лучше учитывает нюансы естественного языка и пограничные случаи. Все новые сообщества уже могут протестировать Rules Hub. Позднее в этом году Reddit планирует сделать инструмент широко доступным и для новых, и для действующих сообществ.

Одновременно платформа расширила другие средства модерации: одно подсказывает пользователям правила сообщества при создании постов и комментариев, другое упрощает выбор flair — пользовательской метки имени, видимой только внутри конкретного сообщества.

Изменения в инфраструктуре

Reddit также намерен перевести рабочие процессы модераторов в Old Reddit на новый технологический стек и мигрировать критически важных ботов. Эти работы входят в пакет изменений, который должен облегчить участие пользователей, защитить площадку от скрейпинга и спама и поддержать модерацию сообществ.

Практический вывод для команд, управляющих пользовательскими площадками, состоит в том, что автоматизация может уменьшить зависимость от грубых входных фильтров. Но правила, действия при нарушениях и контроль результатов по-прежнему должны задавать и проверять люди.