Musubi открыла PolicyLM-1.7B для модерации контента в реальном времени

Стартап Musubi представил PolicyLM-1.7B — лёгкую модель принятия решений для модерации контента с открытыми весами. Компания заявляет, что модель применяет правило, сформулированное на обычном английском языке, к сообщению менее чем за 50 миллисекунд и выдаёт бинарный результат: относится ли материал к заданной категории или нет.

Правила без нового обучения

PolicyLM-1.7B рассчитана на работу в реальном времени. По замыслу Musubi, менеджер платформы может описать политику модерации текстом, а модель будет использовать это описание для разметки сообщений.

Ключевое отличие от специализированных классификаторов состоит в том, что при изменении политики модель не нужно заново обучать. Авторы рассчитывают, что это позволит ответственным за правила командам быстрее менять формулировки и итеративно уточнять категории контента.

Сооснователь и директор по ИИ Musubi Филип Янкович связывает продукт с потребностью платформ понимать происходящее при экспоненциальном росте объёма публикаций. Компания рассматривает масштабируемую и настраиваемую разметку как способ заранее классифицировать поток материалов.

Что такое модели принятия решений

PolicyLM-1.7B относится к классу decision models. В отличие от больших языковых моделей, генерирующих текст, такие системы возвращают вероятности или выбор среди заранее определённых вариантов. В данном случае результат сводится к ответу «да» или «нет» для выбранной категории.

Ограниченный набор выходов позволяет таким моделям работать быстрее и дешевле генеративных LLM, сохраняя гибкость трансформерной архитектуры. Интерес к этому направлению вырос после выпуска Jev от Typesafe AI в сентябре; затем похожие модели представили OpenAI и Amazon.

Контекст и применение

Одним из ранних сценариев для decision models называют ограничение нежелательного поведения ИИ-агентов. Musubi предлагает применить сходный подход к оценке действий пользователей на платформах. Янкович отмечает, что компания изучала эти методы ещё в проекте GLiNER 2024 года, посвящённом универсальному распознаванию именованных сущностей.

Для бизнеса практический смысл релиза — возможность проверять, какие внутренние правила допустимо перевести в явные текстовые политики и применять к большому потоку сообщений. Однако автоматические бинарные решения не отменяют необходимость тестировать качество на пограничных случаях и определять, где требуется проверка человеком.