Nous Researchが推論APIを公開、Hermes 3などをクラウド提供

商用 AI の過剰なセーフティガードにうんざりしつつも、オープンソースモデルを自前でホストするサーバー代や手間に悩まされてきた開発者に、新しい選択肢が登場しました。

ニューヨークを拠点とし、制限の少ないオープンな言語モデル開発で知られる Nous Research が、独自の推論 API を正式にローンチしました。

OpenAI 互換仕様で、まずは 2 つの主力モデルを提供

今回提供が始まったのは 2 つのモデルです。Meta の Llama 3.1 をベースにした高性能な汎用モデル「Hermes 3 Llama 70B」と、先月発表されたばかりの推論特化型モデル「DeepHermes-3 8B Preview」です。DeepHermes-3 では、システムプロンプトを使って通常の簡潔な回答と、詳細な思考プロセス（CoT）の出力を切り替えることができます。

この API は OpenAI のチャット補完仕様に準拠して設計されているため、既存のコードから接続先を切り替えるだけで簡単に組み込めます。

現在は急増する需要を管理するため、ポータルを通じた先着順のウェイトリスト制を採用しています。新規登録ユーザーには 5 ドル分の無料クレジットが付与され、すぐにテストを開始できます。

草の根オープンソースから商業化へのシフト

2023 年の設立以来、Nous Research は大手テック企業の囲い込みに対抗するスタンスを一貫して取ってきました。2023 年 7 月以降、モデルや論文、データセットなど計 29 の成果物を公開しています。4 か月前には同社初のウェブチャット画面となる Nous Chat をリリースしていました。

これまで Hermes シリーズを実際に動かすには、ローカル環境やクラウド GPU に重いモデルをダウンロードして実行する必要があり、コストも手間もかかっていました。今回の API 化は、オープンソースの重みを配り続けながら、推論サービスとして収益を上げる現実的なビジネスモデルへの進化を意味します。

なお、同社は制限のない自由なモデルを標榜していますが、明らかな有害出力を防ぐ最低限のガードレール自体は備えています。

なぜ重要か

大手 AI の過度な検閲を避けたい開発者にとって、自前で高価な GPU インフラを運用することなく Hermes の能力を呼び出せるメリットは非常に大きいです。5 ドルの無料枠があるため、既存のプロンプトがどう挙動するかを低リスクで試す価値は十分にあります。

Nous Research の手法は、オープンソースの精神を守りつつサーバー費用を回収するアプローチとして非常に現実的です。OpenAI 互換のインターフェースを採用した点も、乗り換えコストを徹底的に下げる巧みな判断と言えます。

ただし、大手ハイパースケーラーのような潤沢な GPU 資産を持たないため、ウェイトリスト制に見られるようなインフラの制約が今後の課題になるでしょう。アクセスが集中した際にレイテンシや稼働率を維持できるかどうかが、実用的な本番環境として採用されるかの分かれ道になりそうです。