Google 升級漏洞賞金計劃：給生成式 AI 找茬也能拿獎金

以前駭客幫科技大廠找軟體漏洞，挖出的是記憶體溢位或者未授權訪問；現在如果你能讓大模型說胡話或者被惡意操弄，也能領到真金白銀了。

Google 宣佈對其執行多年的漏洞獎勵計劃進行重大擴充套件，正式將針對生成式 AI 的特定攻擊場景納入懸賞範圍。同時，他們還拿出了兩套開源原型工具，準備把傳統軟體供應鏈的安全標準搬到 AI 模型上。

抓出大模型越獄，現在也能領賞金

傳統的網路漏洞有很成熟的評級體系，但生成式 AI 帶來的風險完全不同，比如模型操控、不公平偏見，或者是對資料的嚴重曲解與幻覺。

為了讓白帽駭客知道該挖什麼，Google 專門更新了提報指南，把哪些 AI 攻擊算作有效漏洞明確劃定了範圍。

其實在 8 月份，Google 就拉上白宮和其他廠商，在駭客大會 DEF CON 上辦了一場史上最大規模的生成式 AI 公開紅隊測試，讓數千名外部安全人員集中找茬。這次擴大賞金計劃，算是把當時的臨時演練變成了常態化機制。

Google 自己的信任與安全團隊雖然經驗豐富，但大模型互動千奇百怪，官方也承認僅靠內部團隊根本測不過來，必須借外部社群的腦力。

給開源模型貼上「防偽標籤」

除了給外部白帽發賞金，Google 還在防範另一個隱蔽的風險：AI 供應鏈投毒。

現在的開發者經常直接從網上下載預訓練模型權重。如果中間有人偷偷篡改了模型檔案，或者在訓練資料裡下毒，下游用的人很難察覺。

Google 開源安全團隊這次拉上了開源安全基金會，結合自家的安全 AI 框架，拿出了第一批安全原型工具。

他們利用 Sigstore 給 AI 模型做數字簽名，同時用 SLSA 標準來驗證模型的溯源證明。說白了，就是給 AI 模型貼上不可篡改的防偽標籤，確保你下載的模型權重就是原作者釋出的那個，路上沒被掉包。

為什麼重要

對於安全研究員和開發者來說，AI 安全終於不再是一門單純的「玄學提示詞工程」，而是變成了能拿到現金回報的正規安全分支。如果你擅長越獄或者構造對抗樣本，現在有了合法的變現渠道。

更關鍵的其實是對 AI 供應鏈的改造。過去大家下載大模型權重，基本全靠信任社群知名度，整個分發鏈路幾乎處於裸奔狀態。Google 把傳統開源領域非常成熟的軟體簽名和供應鏈溯源套在模型上，我們認為這一步走得相當務實，是在用基礎設施的成熟經驗去補 AI 的安全短板。

不過挑戰也很現實：生成式 AI 的漏洞判定邊界極其模糊。記憶體崩潰是客觀事實，但多嚴重的幻覺才算漏洞？多大程度的偏見值得發賞金？這些標準在實際操作中恐怕會引發不少爭議。但這至少證明，AI 已經走過了只看跑分和引數的野蠻生長階段，開始補課工業級工程必備的底層安全了。