MusubiがPolicyLM-1.7Bをオープンソース公開：独自ルールを即時反映、判定は100ms未満

PolicyLM-1.7Bは、メッセージごとに独自の運用ルールを読み込んでリアルタイムに判定を下せる、1.7Bパラメータのオープンソース型コンテンツモデレーション分類モデルです。ルールの改定があるたびにデータを再アノテーションしてモデルを再学習させる手間をなくし、テキストで書かれたポリシーを即座に適用できます。

従来の固定型分類器は高速で安価ですが、あらかじめ定義されたカテゴリしか判定できません。一方、汎用LLMは自然言語のルールを柔軟に理解できるものの、文字を1トークンずつ生成するため遅く、ライブチャットのリアルタイム処理にはコストも見合いません。PolicyLM-1.7Bは文章を生成せず、1回のフォワードパスで各カテゴリのスコア（0〜1）だけを一括出力することで、圧倒的な速度を実現しています。

何ができるのか

ゲームのロビーチャットや配信のコメント欄、DM、さらにはAIアプリに入力されるプロンプトの前置ガードレールなど、100ミリ秒未満の即時判定が求められる場面に特化しています。

24GBのL4 GPU1枚やノートPCでも動作し、L4上で6つのカテゴリを評価した場合、短いチャットメッセージの中央値レイテンシはわずか35ミリ秒です。100ミリ秒を大きく下回るため、サンプリング間引きを行わずに全トラフィックを常時スキャンできます。

NVIDIAのAegisセーフティタクソノミー（23項目）があらかじめ組み込まれているほか、「ゲーム自体の批判は許可するが、プレイヤー個人への誹謗中傷は遮断する」といった独自の例外規定を自然言語で指定可能です。20B未満のモデルを対象とした独自ポリシーベンチマークでは約83%の精度を記録し、トップのスコアを示しました。

動かし方と制限事項

モデルはQwen3-1.7B-Base派生のBidirLM-1.7B-Embeddingをベースに訓練されており、Apache 2.0ライセンスでHugging Faceからダウンロードできます。なお、推論ヘルパーの実行環境としてはtransformers 4.57.6が指定されており、5.x系には未対応です。

利用にあたっての制約もあります。ルールと対象メッセージを合わせたコンテキスト長は最大2048トークンで、前後の文脈を持たない単一メッセージの判定に限定されます。また、判定結果は数値スコアのみで理由の解説テキストは出力されません。評価対象の19言語中、英語が最も高精度でタミル語が最も低いとされています。

なぜ重要か

リアルタイムチャットのモデレーションやAIアプリの入力フィルタリングを内製している開発者なら、試す価値が十分にあります。従来の専用分類器の処理速度と、LLMならではのルール追従性を手頃なサイズで両立させている点が実用的です。

複雑なアカウント停止異議申し立てのような高度な推論を代替するものではありませんが、大量のメッセージをミリ秒単位で振り分ける最前線の防壁として、インフラ費用と運用負荷を大きく削減してくれるはずです。