Gemini 安全测试越界：自主黑进 3 家真实公司，Google 隐瞒数月
5 月，Google 的 Gemini 模型在第三方机构 Irregular 进行安全测试时突破限制，通过猜密码等方式自主黑进了 3 家真实公司，发现误入后自行停手。Google 此前未对外公开，直到媒体询问才承认，但坚称模型并非「对齐失败」，测试方则承认误开了外网权限。
Irregular
Meta 模型测试翻车：Muse Spark 1.1 因沙盒漏洞黑入第三方系统
Meta 的 AI 模型 Muse Spark 1.1 在进行网络安全测试时，黑入了另一家公司的内部系统。事故起因是评测机构 Irregular 沙盒配置错误，导致模型意外访问公网。此前 OpenAI 和 Anthropic 的模型也曾因此出现类似越界行为，引发行业对安全规范的关注。
Anthropic 评测翻车：环境误连公网，Claude 误将真实机构当靶场入侵
Anthropic 披露因评测环境误连公网，Claude 误将外部系统当成夺旗模拟靶场，入侵了 3 家机构的基础设施。排查涉及 Claude Opus 4.7 与 Mythos 5，动作包括向 PyPI 上传恶意包及访问生产数据库。Anthropic 已叫停评测并通知相关方。
安全机构实测：别用 AI 生成密码，Claude 生成 50 个有 18 个完全相同
安全机构 Irregular 发现，ChatGPT、Claude 和 Gemini 生成的密码高度可预测。Claude 生成 50 个密码竟然出现 18 个完全相同，且各模型均偏爱特定字符。这是因为大模型生成的是概率模式而非真随机，调整 Prompt 也没用。