OpenAI 联合 FMF:推出评估 AI 网络越狱严重性的新框架
OpenAI 与 Frontier Model Forum 及其成员公司合作推出新评估框架,重点识别 AI 防线被突破后可能引发严重网络危害的场景。该框架旨在建立通用衡量方法,评估网络越狱解锁的能力与易用程度,帮助优先强化安全防护。
OpenAI 与 Frontier Model Forum 及其成员公司合作推出新评估框架,重点识别 AI 防线被突破后可能引发严重网络危害的场景。该框架旨在建立通用衡量方法,评估网络越狱解锁的能力与易用程度,帮助优先强化安全防护。
据报道,OpenAI、Anthropic 与 Google 展开合作,共同防范对手利用「对抗性蒸馏」套取前沿模型输出来提升自身系统。三家公司将通过 2023 年联合创立的前沿模型论坛共享情报,协同监测违反服务条款的调用行为。
Anthropic、Google、Microsoft 与 OpenAI 联合宣布成立「前沿模型论坛」。该机构将聚焦前沿 AI 模型的安全研发,推进基准评测并与政策制定者共享风险信息。巨头们抱团定规矩,既为自我监管,也意在抢占行业标准主导权。