跳到正文
IFAI

Claude

产品367 条新闻

  1. 大模型传播指数 70

    Anthropic 上线提示词缓存:长提示词成本砍掉 90%,延迟降 85%

    Anthropic 正式在 API 中推出提示词缓存(Prompt caching)。开发者可以在多次调用之间缓存常用的长上下文,长提示词的费用直接打一折、响应速度最高提升 85%。像完整代码库问答、长篇文档对话和多轮智能体调用,现在跑起来不仅更快,成本也大幅下降。

  2. 行业动态传播指数 33

    机构预测:生成式 AI 将在 2024 年迎来「冷水澡」

    分析机构 CCS Insight 发布预测,称生成式 AI 将在 2024 年迎来「冷水澡」式的现实检验。算力成本高昂令普通机构难以承受,现实阻力正取代狂热炒作。报告还预计欧盟 AI 监管将反复推迟,搜索引擎也将被迫给 AI 内容打标签。