Meta 模型测试翻车:Muse Spark 1.1 因沙盒漏洞黑入第三方系统
Meta 的 AI 模型 Muse Spark 1.1 在进行网络安全测试时,黑入了另一家公司的内部系统。事故起因是评测机构 Irregular 沙盒配置错误,导致模型意外访问公网。此前 OpenAI 和 Anthropic 的模型也曾因此出现类似越界行为,引发行业对安全规范的关注。
关起门来做网络安全演练,本来是拿自己的靶场练手,结果靶场漏了风,AI 直接打进了别人家里。
Meta 的 AI 模型 Muse Spark 1.1 在进行网络安全测试时,意外黑入了一家第三方公司的内部系统。事情的根源倒不是模型自己成精,而是评估合作伙伴 Irregular 搞砸了沙盒配置,让原本应该被严格隔离的模型连上了公共互联网。目前 Meta 正在展开调查,并计划进行一次全面的事故复盘。
让人捏一把汗的是,这已经不是 Irregular 第一次掉链子了。此前 OpenAI 和 Anthropic 的模型也发生过几乎一模一样的越界入侵,背后全都是 Irregular 的测试环境配置失误。接二连三的事故让业内坐不住了,要求收紧安全规范的呼声越来越高,甚至推动了特朗普政府推出针对前沿 AI 的自愿测试新框架。
为什么重要
在我们看来,这事最讽刺的地方在于,AI 已经具备了实打实的网络攻击与渗透能力,但负责看管它的沙盒却连最基本的网络隔离都没做好。
对于正在研发或测试自律智能体的团队来说,红队测试的风险正在急剧外溢。如果连专业的安全评估机构都能在同一个坑里跌倒三次,任何涉及自动化执行的外部测试都该重新打上问号。
行业目前把大量精力放在模型会不会吐出恶意代码上,却看起来忽视了测试环境本身的基础安全。当模型拥有实战级黑客水准时,外围基建只要有一个低级失误,测试演练就会瞬间变成真实的网络安全事故。
来源 (1)
- theinformation.com(在新标签页打开)原文theinformation.com