Anthropic 发布 Claude 3 Haiku:每秒读 30 页,成本仅为同类一半
Anthropic 推出 Claude 3 Haiku,主打高速与极低成本。其针对 32K 以下提示词的处理速度达每秒 2.1 万 token(约 30 页),比同类模型快 3 倍,企业分析长文档成本减半,花 1 美元就能处理 400 起诉讼案或 2500 张图片。目前已上线 API 与 Claude Pro。
很多时候,大家都在追着大模型的智商天花板跑,但真到了实际业务场景,账单和延迟才是天天悬在头上的刀。
Anthropic 正式推出了 Claude 3 系列里的最后一块拼图:Claude 3 Haiku。它是家族里体型最小的一个,也是跑得最快、最便宜的一个。现在它已经和 Sonnet、Opus 一起上线了 Claude API,Claude Pro 订阅用户也能直接在网页端用上。
一秒读完三十页,一美元看四百个案件
对大部分要做日常客服、大规模文档处理的企业来说,模型再聪明,如果吐字慢吞吞,用户早就关掉窗口了。
Anthropic 宣称,在绝大多数工作负载下,Haiku 的处理速度是同类竞争对手的三倍。如果提示词在 32K token 以内,它每秒能吞吐 2.1 万个 token,差不多等于一秒钟啃完 30 页纸。这意味着在多任务并行或者交互式客服这类要求秒回的场景里,它几乎不会卡顿。
算力账单上也切得很准。企业日常用大模型,通常是塞进去一大堆背景资料,然后让模型输出短短几句总结,也就是输入远多于输出。
为此,Haiku 采用了 1 比 5 的输入与输出定价设计。Anthropic 算了一笔账:在同等性能表现的模型里,Haiku 的使用成本直接砍掉了一半。花上一美元,你可以让它分析 400 个美国最高法院的判决案件,或者解析 2500 张图片。
企业级防护与多平台落地
便宜归便宜,Anthropic 没有在企业看重的安全防护上缩水。
为了防范越狱和有害内容输出,官方对 Haiku 进行了严格的安全性测试,并在系统层加入了持续监控、端点加固和强数据加密等机制。他们还找了渗透测试团队做定期审计,把漏洞提前堵上。
渠道方面,除了自家 API 和 Claude Pro,Haiku 已经同步上架了 Amazon Bedrock,后续还会接入 Google Cloud 的 Vertex AI。
为什么重要
我们认为,Haiku 的出现补齐了 Anthropic 商业闭环里最务实的一环。
之前大家关注 Claude 3,多半是盯着大杀四方的 Opus,但对真正掏钱的开发者和企业而言,Opus 成本太高,不适合铺量。现在有了 Haiku,开发者可以用它来做日志清洗、分类打标、高并发客服或者海量图片识别,既有出色的多模态能力,成本还低得吓人。如果你正在为跑批处理的高昂 Token 账单头疼,现在很值得换上 Haiku 试一试。
从行业竞争来看,这无疑是在直接敲打 GPT-3.5 Turbo 和各类开源轻量模型。以前 Anthropic 常被贴上偏学术、偏防守的标签,但 Haiku 这种直奔速度和极致性价比的产品策略,表明它要在企业日常流量的底座市场里硬碰硬抢份额。
不过看起来潜在的考量也在于,轻量模型在极端复杂推理上天然受限。企业在架构设计时,还是得老老实实做路由,把简单的粗活分流给 Haiku,把高难度的烧脑问题交给 Opus 或 Sonnet,才能真正把成本和效果平衡好。
来源 (2)
- venturebeat.com(在新标签页打开)原文venturebeat.com
- anthropic.com(在新标签页打开)报道anthropic.com