OpenAI 與 Anthropic 聯合安全評測:兩大巨頭互測對方主力模型
OpenAI 與 Anthropic 公佈首次交叉安全評測結果,互用內部工具測試對方的主力模型。測試顯示 Claude 4 在指令層級與防洩漏上佔優,但拒答率高達 70%;OpenAI o3 則在防越獄上更穩。這是頭部實驗室首次公開互查安全盲點。
OpenAI 與 Anthropic 公佈首次交叉安全評測結果,互用內部工具測試對方的主力模型。測試顯示 Claude 4 在指令層級與防洩漏上佔優,但拒答率高達 70%;OpenAI o3 則在防越獄上更穩。這是頭部實驗室首次公開互查安全盲點。
Anthropic 宣佈允許 Claude Opus 4 與 4.1 在遭遇持續惡意騷擾或有害互動時主動終止對話。這項調整源於對「AI 福利」的探索試驗。會話一旦被 AI 終止,使用者將無法在該對話中發言,但仍可新建聊天或編輯歷史訊息。
Anthropic 宣佈將於 8 月 28 日起對 Pro 和 Max 使用者增設按周重置的用量上限,以限制部分人 24 小時後臺執行 Claude Code 或倒賣賬號。原有的 5 小時重置依然保留。官方稱這隻會影響不到 5% 的極端重度使用者,Max 訂閱者可通過 API 費率額外加購用量。
Anthropic 推出金融服務分析方案,打通 FactSet、S&P Global 等外部資料與企業內庫。Claude Opus 4 在金融建模任務中準確率達 83%,生成內容均附帶信源超連結供核查,且預設不拿使用者資料訓練。
Anthropic 推出 Claude 4 系列,包含 Opus 4 與 Sonnet 4。新模型支援在深度思考中呼叫工具,大幅提升複雜程式設計與智慧體長流程任務表現。此外 Claude Code 程式設計工具正式上線,Sonnet 4 也面向免費使用者開放。
Anthropic 聯手 HackerOne 推出新一期漏洞賞金計劃,懸賞最高 2.5 萬美元徵集未釋出系統的「通用越獄」漏洞。該計劃針對 Claude 3.7 Sonnet 等模型的安全分類器進行壓力測試,重點防範化學生物與核武器風險,以滿足 ASL-3 安全標準。