兼容 OpenAI 格式：Nous Research 推出 Hermes 3 推理 API

如果你用过 OpenAI 或者 Anthropic 的接口，可能经常被各种过度谨慎的道德审查打断。很多开发者转头去看开源社区，可要把动辄几十上百 G 的大模型拉到本地，配置显卡、搭推理框架，成本又太高。

总部位于纽约的 AI 团队 Nous Research 想解决这个麻烦。他们正式上线了自家的推理 API，让开发者不用自己折腾硬件，直接通过接口调用他们旗下的模型。

兼容 OpenAI 格式，先上两款主力模型

这次 API 首批上线的有两个模型。一个是 Hermes 3 Llama 70B，这是基于 Meta 的 Llama 3.1 架构微调的通用大模型。另一个是上个月刚刚发布的 DeepHermes-3 8B Preview，属于推理类模型，开发者可以通过系统提示词自由切换简洁回答或者完整的思考链思维过程。

为了降低迁移成本，Nous Research 把接口设计成了完全兼容 OpenAI 的风格，支持 completions 和 chat completions 规范。如果你之前写过调用 GPT 的代码，换个请求地址和模型名称就能直接跑起来。

由于算力资源不如大厂充裕，团队目前采用先到先得的候补名单机制来控制请求流量。新注册账号可以直接拿到 5 美元的免费额度，用来测试和验证自己的应用。

从纯开源到云端接口，草根团队也要恰饭

自 2023 年成立以来，Nous Research 一直标榜自己要做个性化且不受严苛限制的开源大模型。根据他们公布的时间线，团队自 2023 年 7 月以来已经发布了 29 个开源项目，包括模型权重、论文、代码和数据集。

四个月前，他们先是推出了网页端对话界面 Nous Chat。在此之前，开发者如果想用 Hermes 系列，必须自己把模型下载到本地或者云主机上去跑，既耗时又费钱。

虽然团队一直宣称要对抗寡头垄断，甚至在宣布 Solana 上的 Psyche 项目时表示超级智能不该被少数几家巨头把持，但开源团队终究要面对算力账单。通过云端 API 变现，同时保留权重开源，成了他们探索商业化自我造血的第一步。虽然团队主打 unrestricted，但这套模型内部其实依然保留了防范恶意输出的基础护栏。

为什么重要

对开发者和研究人员来说，Nous Research 这次开放 API 最实在的价值，就是终于能用极低的门槛跑那些不爱对用户说教的模型。不管是做剧情生成、复杂推演，还是特定领域的研究，都不用再去买高配显卡或者忍受商业大厂动不动触发的审核机制，拿 5 美元体验金就能立刻在生产环境里跑对比测试。

我们认为，Nous Research 走了一步非常精明的商业棋。全开源模型常常陷入只赚吆喝不赚钱的尴尬境地，但他们没有选择关起门来搞闭源，而是用云端托管推理来收便利税。兼容 OpenAI 的 API 设计更是把迁移门槛降到了最低，直接去挖大厂的墙角。

不过，这种模式的核心隐患依然在算力基建。他们没有头部巨头那样庞大的 GPU 集群，目前的排队机制说好听是饥饿营销，说难听就是服务器顶不住。一旦并发量暴增，接口响应延迟和稳定性会不会崩盘，将直接决定它能不能从极客的尝鲜玩具变成企业敢放进生产环境的严肃基础设施。