本文へスキップ
IFAI

AIモデル

Nous Researchが「Hermes 4」発表:推論モードと低拒否率を両立

公開 拡散指数 51

Nous ResearchはLlama-3.1-70Bベースのオープンモデル「Hermes 4」を公開し、Nous Chatを刷新した。<think>タグを使ったハイブリッド推論に対応し、600億トークンのデータで事後学習を実施。独自指標RefusalBenchで不要な拒絶を抑えた高い柔軟性を記録した。

Nous Researchが「Hermes 4」発表:推論モードと低拒否率を両立
画像:huggingface.co

Nous Researchは、Llama-3.1-70Bをベースにしたオープンウェイトのハイブリッド推論モデル「Hermes 4」を公開しました。あわせてWeb利用向けのNous Chatプラットフォームも大幅にリニューアルされています。

最大の特徴は、必要に応じて明示的な推論プロセスを呼び出せる点です。プロンプト側で設定するかモデルが熟考を要すると判断した場合、思考の流れが<think>タグ内に展開され、その後に最終回答が出力されます。スピードを重視したい場合は推論をスキップして即座に回答を得ることも可能です。

何ができるのか

今回のアップデートでは事後学習データが大幅に強化されました。前世代の100万サンプル・12億トークンから、約500万サンプル・600億トークンへとデータ規模を拡大。検証済みの推論トレースを大量に含めることで、数学やプログラミング、STEM分野の論理処理、正確なJSON出力能力を底上げしています。フォーマットが崩れたオブジェクトを自己修復する訓練も施されています。

関数呼び出し機能も推論モードと統合されました。1ターンのやり取りの中で、<think>タグで思考した後に<tool_call>を吐き出し、ツールの応答を受け取って再び推論を続け、回答を組み立てられます。vLLMやSGLangなどの推論エンジン向けパーサーもあらかじめ用意されています。

また、指示への追従性とアライメント方針も大きな見どころです。チームは独自に「RefusalBench」と呼ばれる指標を作成し、他社モデルで過剰に拒否されがちなプロンプトへの対応力を測定しました。Hermes 4はオープン・クローズドモデルを抑えてトップのスコアを獲得しており、ユーザーの指定したシステム指示やペルソナに忠実に従う設計となっています。

動かし方とスペック

モデルの重みはHugging Face上で公開されており、Llama-3-Chatのフォーマットを踏襲しています。70BパラメータをFP16で動かすにはハイエンド環境が必要ですが、量子化を用いれば複数GPUを積んだマシンでも運用可能です。推奨サンプリング設定はtemperature=0.6、top_p=0.95、top_k=20となっています。

手元にマシンがない場合でも、刷新されたNous ChatのWebサイトから直接試用できます。技術レポートでは70Bだけでなく405B規模での展開も視野に入れたフォーマット仕様が記載されています。

なぜ重要か

近年の商用モデルは安全性を重視するあまり、少しでも曖昧な指示に対して過剰に回答を拒絶する傾向が目立ちます。Hermes 4は不要な説教や拒絶を排除し、開発者が意図した通りの振る舞いを引き出せるように調整されています。厳格な構造化出力やツール連携をローカル環境で動かしたい開発者にとって、信頼できる実用的な選択肢が登場したと言えます。

情報源 (2)

  1. [1]
    hermes4.nousresearch.com(新しいタブで開きます)原文hermes4.nousresearch.com
  2. [2]

似た出来事

過去の似た出来事。理解の手がかりに。

毎日のAIピックアップ