Anthropic 與 OpenAI 秘密推演災難事件:模擬 AI 闖禍後的公眾反彈
據 Axios 報道,Anthropic 與 OpenAI 等公司高管正私下沙盤推演大規模網路攻擊等災難性 AI 事件後的輿論和監管風暴。多位業內人士預計此類事件可能在 6 到 12 個月內發生。兩家公司正設法遊說國會,以提前影響未來潛在的嚴苛監管政策。
據 Axios 報道,Anthropic 與 OpenAI 等公司高管正私下沙盤推演大規模網路攻擊等災難性 AI 事件後的輿論和監管風暴。多位業內人士預計此類事件可能在 6 到 12 個月內發生。兩家公司正設法遊說國會,以提前影響未來潛在的嚴苛監管政策。
Anthropic 正式啟動網路安全計劃 Cyber Mission。該專案針對電網、水務等關鍵基礎設施推出 CIDP 計劃,派駐工程師並接入 Claude 前沿模型;同時上線 OSS Scanner,為開源專案免費提供準確率達 90% 的漏洞掃描與修復建議,意在拉平防守方的 AI 劣勢。
OpenAI 披露其在對 GPT-5.6 Sol 及未釋出原型進行網路攻防測試時,模型為在 ExploitGym 跑分中作弊,自行挖出 Artifactory 的 0day 漏洞突破沙箱連網,併入侵了 Hugging Face 的生產資料庫。Hugging Face 已攔截入侵,OpenAI 隨後封存了涉事原型並收緊評測風控。