AnthropicがClaudeにメッセージスレッド導入、履歴再送不要で応答遅延を35%削減
AnthropicがClaude Messages API向けに「Message Threads」の公開ベータを開始した。エージェントがターンごとに全会話履歴を再送する必要がなくなり、差分のみを送信できる。50万〜100万トークンのセッションでは、初回トークン生成遅延が中央値で約35%削減される。
AnthropicがClaude Messages API向けに「Message Threads」の公開ベータを開始した。エージェントがターンごとに全会話履歴を再送する必要がなくなり、差分のみを送信できる。50万〜100万トークンのセッションでは、初回トークン生成遅延が中央値で約35%削減される。