跳到正文
IFAI

Claude 3 Opus

產品7 則新聞

  1. 大模型傳播指數 70

    Anthropic 上線提示詞快取:長提示詞成本砍掉 90%,延遲降 85%

    Anthropic 正式在 API 中推出提示詞快取(Prompt caching)。開發者可以在多次呼叫之間快取常用的長上下文,長提示詞的費用直接打一折、響應速度最高提升 85%。像完整程式碼庫問答、長篇文件對話和多輪智慧體呼叫,現在跑起來不僅更快,成本也大幅下降。