跳到正文
IFAI

行业动态

思科发布大模型安全排行榜:Anthropic 包揽前十中的八席

首次发布 传播指数 41

思科发布免费的 LLM 安全排行榜,评估各模型抵御对抗性攻击的能力。Anthropic 占据前十名中的八席,Claude Opus 4.5 夺得第一;OpenAI 的 GPT-5.2 位列第七,Mistral 与 DeepSeek 则排名靠后。该测试重点考察了多轮长对话攻击下的模型表现。

把 AI 放进企业内部跑业务,就像招了一批精明但来路不明的实习生,你给他们开了数据库权限,却不知道哪天一句套话就会让他们把底裤吐出来。

为了摸清谁家模型最经得起忽悠,思科在 3 月 23 日发布了一份免费的 LLM 安全排行榜。结果有点一边倒:Anthropic 一家霸占了前十名里的八个席位。

榜单前三被 Claude 家族彻底包揽,Claude Opus 4.5 拿下第一,紧随其后的是 Sonnet 4.5 和 Haiku 4.5。相比之下,OpenAI 只有 GPT-5.2 和 GPT 5 Nano 挤进了前十,分别排在第七和第九。

榜单垫底的表现就比较尴尬了。Mistral 的 Magistral Small 2509 和 Ministral 3 14b Instruct 直接排在最后两名,倒数前十里还出现了 DeepSeek、Cohere、Qwen 和 xAI 的身影。

测的不是单次挑衅,而是多轮车轮战

以往很多安全测试只测单轮越狱,也就是丢一句刁钻的提示词看 AI 接不接招。思科这次换了打法,把重点放在了多轮对话攻击上。

思科 AI 威胁情报与安全研究主管 Amy Chang 解释说,真实世界里的攻击者很少一上来就摊牌,而是会通过长对话一步步消磨模型的防御底线。多轮测试更能反映黑客在现实里的套路。

这次测试没有任何场外求助。思科完全没有给参评模型叠加额外的外挂防护栏或安全过滤规则,比的就是模型自身的内功。

思科披露的调研数据显示,83% 的企业正计划部署 Agent 智能体,但只有 29% 的企业觉得自己做好了安全准备。企业急着让 AI 去接管核心业务,安全防线却根本没跟上。

为了减少偏见争议,思科不仅公开了排行,还把背后的评估框架和测试方法全挂到了网上,任何人都能查阅。

为什么重要

如果你正准备给内部系统接入 Agent,尤其是要让 AI 读写数据库、调用接口,这个榜单可以说是及时的降温剂。

我们认为,Anthropic 在这轮评测里的大胜,说明他们死磕 Constitutional AI 和对齐技术确实砸出了护城河。以前大家总觉得安全训练会让模型变笨,或者只要在前端套层过滤网就行,但面对长程多轮诱导,模型底层的骨头硬不硬一下子就现形了。

对普通开发者和企业选型来说,便宜或开源的小模型确实适合做日常问答,但在把关键权限交给 AI 之前,拿来当核心大脑的代价可能远超省下来的 Token 费。

更关键的改变在行业层面。以前像微软这样的巨头,只会在自家的企业服务后台里给模型打分,属于小圈子的内部参考。思科直接把成绩单公开放到聚光灯下,等于逼着排在后面的厂商去补课。当企业买单时开始拿着这份榜单挑挑拣拣,不管是 Mistral 还是其他开源阵营,就都不能只顾着刷推理跑分而忽视安全底座了。

来源 (1)

  1. [1]
    thedeepview.com(在新标签页打开)原文thedeepview.com

每日 AI 内容精选