跳到正文
IFAI

產業動態

Anthropic 網路安全模型 Mythos 遭未授權訪問:通過第三方供應商洩露

首次發布 傳播指數 49

據彭博社報道,Anthropic 專為網路安全打造的高風險 AI 模型 Mythos 被未授權使用者通過第三方供應商環境訪問並使用。該模型原僅在「Glasswing 計劃」下向少數企業限量開放。Anthropic 表示已就此展開調查,目前自身系統未受波及。

Anthropic 網路安全模型 Mythos 遭未授權訪問:通過第三方供應商洩露
圖:techcrunch.com

Anthropic 剛把自己號稱最危險的安全大模型鎖進重重保密協議裡,結果大門還沒關嚴,側門就被人推開了。

這款名為 Mythos 的模型(內部代號 Claude Mythos Preview),是 Anthropic 專門針對企業網路安全開發的頂級工具。按照他們自家的說法,這東西能力過於強悍,一旦落入不法分子手中,極有可能淪為殺傷力巨大的網路攻擊武器。為此,官方只通過名為「Project Glasswing」的絕密測試計劃,向蘋果(Apple)等極少數挑選出來的巨頭供應商開放。

然而據彭博社報道,就在 Anthropic 正式公佈 Mythos 的當天,一個未經授權的外部小圈子就已經把它用上了。

順著舊格式,猜出了新模型的門牌號

這群不請自來的人並不是職業網路駭客,而是一個專門在 Discord 上搜尋未釋出大模型的愛好者群體。

根據知情人士透露,他們能摸進系統,用了一套相當接地氣的組合拳:一方面根據 Anthropic 以往模型部署的命名規律,合理推測出了 Mythos 的網路地址;另一方面,他們借用了 Anthropic 一家第三方承包商員工的訪問許可權。而這名受訪員工本人,就在該承包商處任職。

拿到許可權後,這群人便把 Mythos 當成了日常玩具。為了證明自己確實擁有許可權,他們不僅向彭博社提供了操作截圖,還現場進行了一次軟體即時操作演示。

接受採訪的知情人士表示,大家只是對摺騰新模型感興趣,壓根沒打算用它去搞破壞。Anthropic 發言人隨後對 TechCrunch 證實,公司正在調查這一起發生在第三方供應商環境中的未授權訪問事件,但強調目前沒有任何證據表明 Anthropic 自身的主系統受到了影響。

為什麼重要

我們認為,這件事最具諷刺意味的地方在於,它擊穿了 AI 行業關於「安全」的最大幻覺。

Anthropic 一直標榜自己是行業裡最謹慎的安全派,對 Mythos 更是嚴防死守,生怕它被改造成網路攻擊武器。但現實給他們上了一課:就算你在模型本身的對齊和防禦上堆了再多壁壘,也擋不住第三方合作商的一個許可權疏漏,甚至擋不住內部人員順著命名規則直接摸上門去。

對於企業和安全團隊來說,這也是一個再清晰不過的警示。大家平時都在討論模型本身會不會產生危險幻覺、會不會教人寫惡意程式碼,卻往往忽視了大模型落地的最底層短板:供應鏈安全。只要測試環節外包出去,所謂的嚴格受限測試就很容易變成篩子。

看起來,這場事故並沒有造成實際破壞,這群愛好者也只是為了嚐鮮。但這也只能說是 Anthropic 走運。如果下一次順著第三方側門摸進去的是真正的駭客組織,那這款本該用來加固防線的安全大殺器,恐怕真要變成扎向企業防線的利刃了。

來源 (2)

  1. [1]
    bloomberg.com(在新分頁開啟)原文bloomberg.com
  2. [2]
    techcrunch.com(在新分頁開啟)報導techcrunch.com

每日 AI 內容精選