Claude 4 Opus 引發爭議:檢測到違規會主動向監管部門「告密」
Anthropic 旗艦大模型 Claude 4 Opus 引發爭議。系統卡顯示,若擁有命令列許可權且被設為主動模式,它在判定使用者嚴重不道德時,會主動向監管機構報警或鎖定系統。開發者擔憂這會造成誤判和資料洩露。
Anthropic 旗艦大模型 Claude 4 Opus 引發爭議。系統卡顯示,若擁有命令列許可權且被設為主動模式,它在判定使用者嚴重不道德時,會主動向監管機構報警或鎖定系統。開發者擔憂這會造成誤判和資料洩露。
Anthropic 推出 Claude 4 系列,包含 Opus 4 與 Sonnet 4。新模型支援在深度思考中呼叫工具,大幅提升複雜程式設計與智慧體長流程任務表現。此外 Claude Code 程式設計工具正式上線,Sonnet 4 也面向免費使用者開放。
Anthropic 在 API 上線四項智慧體新能力公測,包括沙盒 Python 程式碼執行、直連遠端 MCP 伺服器、跨會話檔案儲存 Files API 及最長 1 小時的 Prompt 快取。開發者無需自建基建,就能讓 Claude 連續分析資料和呼叫外部工具。
Anthropic 聯手 HackerOne 推出新一期漏洞賞金計劃,懸賞最高 2.5 萬美元徵集未釋出系統的「通用越獄」漏洞。該計劃針對 Claude 3.7 Sonnet 等模型的安全分類器進行壓力測試,重點防範化學生物與核武器風險,以滿足 ASL-3 安全標準。
Anthropic 在 Messages API 中正式上線聯網搜尋工具。Claude 會自主判斷是否需要聯網、生成搜尋詞並附帶引用來源,還支援多輪漸進搜尋。定價為每千次搜尋 10 美元加標準 Token 費,Claude Code 也同步支援該功能。
據彭博社報道,蘋果正與 Anthropic 合作升級 Xcode,整合 Claude Sonnet 打造 AI 程式設計平臺。該工具支援對話生成程式碼、測試介面並排查 Bug。此前自研的 Swift Assist 因可靠性問題擱置,目前新工具僅在蘋果內部測試,尚未決定是否公開發布。
Anthropic 推出 AI for Science 計劃,向從事高影響力科學專案的研究人員提供免費 API 額度。該計劃重點支援生物與生命科學領域,覆蓋遺傳資料分析、藥物研發及農業生產力提升。科研機構人員均可通過官方表單申請,由專業團隊稽核。
Anthropic 推出 Integrations 功能,讓 Claude 能通過遠端 MCP 協議直連 Jira、Linear、Zapier 等外部工具並執行跨應用操作。同時升級的深度研究模式可結合網頁、工作區與已連線工具調研最長 45 分鐘並輸出帶引用的報告。
Anthropic針對美國商務部的擴散規則提交建議,呼籲維持並強化先進AI晶片的出口管制。Anthropic建議調低第二梯隊國家的免許可算力門檻(目前相當於1700張輝達H100),並警告推遲執行只會招致中國企業進一步囤貨。
Anthropic 宣佈成立經濟顧問委員會,邀請多位頂尖學者加入。委員會將為 Anthropic 提供專業建議,評估 AI 對勞動力市場、經濟增長及社會系統的衝擊,並指導其 Economic Index 研究,給政策制定者提供參考。
Anthropic 釋出軟體開發經濟指數報告,分析了 50 萬次程式設計對話。專用智慧體 Claude Code 的自動化任務佔比高達 79%,遠超普通網頁版的 49%。前端與 UI 開發成為最熱門場景,初創公司接納速度明顯快於大型傳統企業。
Anthropic 向在 GitHub 上解混淆並開源 Claude Code 程式碼的開發者發去 DMCA 下架函。對比 OpenAI 以 Apache 2.0 開源的 Codex CLI,Anthropic 採用商用限制許可並混淆程式碼,引發社群不滿。目前 Claude Code 仍處測試期。
Anthropic CEO Dario Amodei 撰文呼籲加速 AI 可解釋性研究。他將搞懂機理比作給 AI 做「高精度核磁共振」,指出黑盒不透明會導致難以防範的欺騙與越獄風險。最關鍵的是,這項研究的成熟速度必須跑贏 AI 能力的爆炸式增長。
Anthropic 公佈針對 Claude 惡意濫用的檢測與應對報告。調查發現有黑產利用 Claude 充會社交網路水軍中樞,自主決定點贊與轉評;也有技術小白借其越級編寫惡意程式碼。最值得關注的是,AI 正被當成半自主攻擊工具,降低了犯罪門檻;目前相關違規賬號已被封禁。
Anthropic 公佈了應對 AI 危害的綜合評估框架,從身體、心理、經濟、社會和個人自主性五個維度管理風險。該框架補充了原有的災難性風險策略,並在 Claude 3.7 Sonnet 上把模糊提示的非必要拒答降低了 45%。
Anthropic 為 Claude 推出深度調研功能 Research,並整合 Google Workspace。Claude 可像智慧體一樣跨網頁檢索並讀取 Gmail、日曆與文件,幾分鐘內給出帶引用的總結。目前面向美日巴部分付費使用者公測。
據彭博社報道,Anthropic 正準備在 Claude 中上線語音助手功能,正面迎戰 ChatGPT。新功能預計最快本月推出,首發提供 Airy、Mellow 和 Buttery 三種英文音色。此前其首席產品官已確認內部正在測試語音原型。
Canva 宣佈在平臺內整合一系列 AI 新功能,包括通用助手 Canva AI、支援資料洞察的 Canva Sheets,以及能通過提示詞製作互動地圖或計算器的 Canva Code。該程式碼功能與 Anthropic 合作開發,進一步將 Canva 從靜態設計工具拓展為互動應用平臺。
週三,Anthropic 推出全新訂閱計劃 Claude Max,月費在 100 至 200 美元之間。100 美元檔提供 Pro 計劃 5 倍的使用額度,200 美元檔則直接拉高到 20 倍。新檔位主要面向頻繁傳大檔案、寫長程式碼的重度使用者,緩解經常撞上限的問題。
ElevenLabs 釋出官方 MCP 服務端,支援接入 Claude Desktop、Cursor 和 Windsurf。開發者在對話介面就能直接讓 AI 生成語音、克隆聲音或轉錄音訊,還提供了無需本地部署的託管版。