Компания Musubi представила PolicyLM-1.7B — компактную decision-модель для модерации контента в реальном времени. Веса модели открыты.
Модель применяет политику модерации, написанную простым языком, к сообщениям менее чем за 50 мс. По стоимости и скорости она сопоставима с ИИ-классификаторами, на которых держится модерация большинства соцсетей.
Благодаря гибкости современных LLM модель работает со сложными правилами без дообучения. При смене политики переобучать её не нужно, поэтому правила можно свободно менять.
Сооснователь и главный по ИИ Filip Jankovic: продуктовым командам нужно лучше понимать, что происходит на платформе, а объём контента растёт экспоненциально. Масштабируемая и настраиваемая разметка здесь очень полезна.
Decision-модели стали популярны после выхода Jev от Typesafe AI в сентябре, затем появились аналоги от OpenAI и Amazon. Вместо текста они выдают вероятности исходов. Здесь решение бинарное: контент подпадает под категорию или нет.
Ограничение набора ответов делает такие модели быстрее и дешевле LLM, сохраняя гибкость архитектуры трансформера. Ранее их применяли, например, чтобы сдерживать нежелательное поведение ИИ-агентов.
Jankovic говорит, что интересовался такими моделями ещё до Jev: у истоков стоит проект GLiNER 2024 года с похожими техниками. Сравнения с Jev в Musubi не боятся и используют интерес к теме, чтобы привлечь внимание к модерации.
PolicyLM-1.7B — модель того же типа, что Jev, обученная специально для модерации контента, и её можно запустить самостоятельно.