跳到正文
IFAI

Claude 3 Opus

产品7 条新闻

  1. 大模型传播指数 70

    Anthropic 上线提示词缓存:长提示词成本砍掉 90%,延迟降 85%

    Anthropic 正式在 API 中推出提示词缓存(Prompt caching)。开发者可以在多次调用之间缓存常用的长上下文,长提示词的费用直接打一折、响应速度最高提升 85%。像完整代码库问答、长篇文档对话和多轮智能体调用,现在跑起来不仅更快,成本也大幅下降。