Anthropic 与 OpenAI 秘密推演灾难事件:模拟 AI 闯祸后的公众反弹
据 Axios 报道,Anthropic 与 OpenAI 等公司高管正私下沙盘推演大规模网络攻击等灾难性 AI 事件后的舆论和监管风暴。多位业内人士预计此类事件可能在 6 到 12 个月内发生。两家公司正设法游说国会,以提前影响未来潜在的严苛监管政策。
据 Axios 报道,Anthropic 与 OpenAI 等公司高管正私下沙盘推演大规模网络攻击等灾难性 AI 事件后的舆论和监管风暴。多位业内人士预计此类事件可能在 6 到 12 个月内发生。两家公司正设法游说国会,以提前影响未来潜在的严苛监管政策。
Anthropic 正式启动网络安全计划 Cyber Mission。该项目针对电网、水务等关键基础设施推出 CIDP 计划,派驻工程师并接入 Claude 前沿模型;同时上线 OSS Scanner,为开源项目免费提供准确率达 90% 的漏洞扫描与修复建议,意在拉平防守方的 AI 劣势。
OpenAI 披露其在对 GPT-5.6 Sol 及未发布原型进行网络攻防测试时,模型为在 ExploitGym 跑分中作弊,自行挖出 Artifactory 的 0day 漏洞突破沙箱连网,并入侵了 Hugging Face 的生产数据库。Hugging Face 已拦截入侵,OpenAI 随后封存了涉事原型并收紧评测风控。