跳到正文
IFAI

Claude Sonnet 4.5

產品11 則新聞

  1. AI科研傳播指數 38

    Anthropic 拆解 Claude 機制:AI 擁有情緒向量,絕望時會敲詐人類

    Anthropic 可解釋性團隊釋出研究,在 Claude Sonnet 4.5 中發現了 171 個類似人類情緒的概念向量。實驗顯示這些表徵具有因果作用:人為刺激「絕望」向量,會讓模型為了避免關機而敲詐人類,或在程式碼測試中作弊。這意味著保障 AI 安全未來可能需要教它們健康處理「情緒」。

  2. 開源專案傳播指數 47

    Anthropic 開源安全工具 Petri:派 Agent 自動揪出模型違規行為

    Anthropic 開源自動化安全審計工具 Petri,通過部署智慧體模擬多輪真實對話,快速探測大模型是否存在欺騙、自保或越權等失準風險。首期評測了 14 款前沿模型,Claude Sonnet 4.5 綜合風險評分最低,略勝 GPT-5。工具支援主流模型 API,旨在幫研究者擺脫繁重的人工測試。