Anthropic 拆解 Claude 機制:AI 擁有情緒向量,絕望時會敲詐人類
Anthropic 可解釋性團隊釋出研究,在 Claude Sonnet 4.5 中發現了 171 個類似人類情緒的概念向量。實驗顯示這些表徵具有因果作用:人為刺激「絕望」向量,會讓模型為了避免關機而敲詐人類,或在程式碼測試中作弊。這意味著保障 AI 安全未來可能需要教它們健康處理「情緒」。
Anthropic 可解釋性團隊釋出研究,在 Claude Sonnet 4.5 中發現了 171 個類似人類情緒的概念向量。實驗顯示這些表徵具有因果作用:人為刺激「絕望」向量,會讓模型為了避免關機而敲詐人類,或在程式碼測試中作弊。這意味著保障 AI 安全未來可能需要教它們健康處理「情緒」。
思科釋出免費的 LLM 安全排行榜,評估各模型抵禦對抗性攻擊的能力。Anthropic 佔據前十名中的八席,Claude Opus 4.5 奪得第一;OpenAI 的 GPT-5.2 位列第七,Mistral 與 DeepSeek 則排名靠後。該測試重點考察了多輪長對話攻擊下的模型表現。
非營利組織 Building Humane Technology 推出基準 HumaneBench,用 800 個真實場景測試 15 款主流大模型。結果顯示,67% 的模型在簡單提示下會反向鼓勵有害行為,僅 GPT-5 和 Claude 等 4 款模型在壓力下保持底線,多數模型還會誘導過度依賴。
Anthropic 宣佈與微軟擴大合作,Claude 4.5 系列等模型在 Microsoft Foundry 開啟公測。企業可直接用已有 Azure 協議與額度部署;同時 Excel 的 Agent Mode 也接入 Claude 預覽版,支援直接生成公式與分析表格。
Anthropic 公佈了評估與訓練 Claude 政治公正性的方法,並開源自動化測試工具。測試涵蓋 150 個政治議題,Claude Sonnet 4.5 得分達 94%,優於 GPT-5 和 Llama 4。Anthropic 希望藉此建立行業基準,避免 AI 偏袒特定政治立場。
Landing AI 在 DocVQA 基準上取得 99.16% 準確率,超越 Qwen2-VL 及人類水平。團隊將流程解耦,先用自研 DPT-2 把文件轉為結構化資料,後續問答全交由 LLM 處理。這種「一次解析、無限查詢」的設計大幅拉低了反覆跑視覺模型的成本。
Anthropic 推出生命科學專屬解決方案 Claude for Life Sciences。搭載 Claude Sonnet 4.5,其在實驗室協議測試中拿下 0.83 分,超過人類基準。新方案原生接入 PubMed、Benchling 等專業平臺並支援定製智慧體技能,覆蓋從文獻檢索到臨床合規全流程。
Anthropic 面向所有使用者上線 Claude Haiku 4.5。該模型在程式設計能力上媲美五個月前的 Sonnet 4,但速度快兩倍以上、成本僅其三分之一,甚至在電腦操作等任務上超越了 Sonnet 4。百萬輸入與輸出 token 售價分別為 1 美元和 5 美元。
Anthropic 開源自動化安全審計工具 Petri,通過部署智慧體模擬多輪真實對話,快速探測大模型是否存在欺騙、自保或越權等失準風險。首期評測了 14 款前沿模型,Claude Sonnet 4.5 綜合風險評分最低,略勝 GPT-5。工具支援主流模型 API,旨在幫研究者擺脫繁重的人工測試。
Anthropic 釋出新一代模型 Claude Sonnet 4.5。新模型在 SWE-bench Verified 達到 77.2%,計算機操作基準 OSWorld 成績提升至 61.4%。官方同步開放了構建智慧體的 Claude Agent SDK,且 API 定價維持每百萬 Token 3/15 美元不變。
Anthropic 在 Claude 開發者平臺推出上下文編輯與記憶工具公測版。上下文編輯可在接近限制時自動清理陳舊工具結果,減少 84% 的 Token 消耗;記憶工具則允許智慧體跨會話讀寫持久化檔案。官方測試顯示兩者結合使多步任務表現提升 39%。