Meta 推出 Purple Llama：開源安全評測基準與 Llama Guard 防護模型

Purple Llama 是 Meta 推出的開源安全工具套件，專門幫開發者在使用開源生成式 AI 時做風險評測和安全防護。

這個名字借用了網路安全領域的「紫隊」（Purple Teaming）概念，也就是把進攻性的紅隊攻防和防禦性的藍隊策略結合起來，既測試模型哪裡容易被利用，也搭建對應的防禦機制。

套件裡的元件都採用寬鬆許可，允許免費用於學術研究和商業落地。

它包含哪些核心工具

首批上線的套件主要覆蓋兩件事：網路安全評測與內容過濾。

在網路安全方面，它提供了業界首套通用的 LLM 網路安全評估基準。這套工具能幫開發者量化大模型潛藏的網路安全風險，檢測模型輸出不安全程式碼建議的頻率，並評估模型是否容易被誘導生成惡意程式碼或協助發起駭客攻擊。

在內容防護方面，Meta 開放了一個名為 Llama Guard 的專用基礎模型。它在混合公開資料集上訓練完成，專門負責檢查模型的輸入 Prompt 和生成的輸出結果，自動識別和攔截常見型別的違規或風險內容。

除了模型本身，Meta 還公開了相關論文和技術方法。開發者可以直接採用預設配置，也可以根據自己的業務規範調整規則，微調出適合自己的定製版本。

怎麼用起來

套件已經向社群開放，合作伙伴包括 Hugging Face、AWS、Google Cloud、Microsoft、Nvidia 和 AI Alliance 等機構。

開發者可以直接獲取相關程式碼與 Llama Guard 權重，閱讀技術論文了解評測指標，並將其整合到自己的大模型推理流水線中作為安全審查閘道器。

為什麼重要

開源大模型過去最讓人頭疼的就是安全合規問題，很多團隊既沒有精力自己養安全團隊做紅藍攻防，也沒有現成的防護模型可用。

Purple Llama 和 Llama Guard 把這套過去只有頭部大廠才有的安全攔截和量化評測體系直接開源，還允許商業使用。如果你正在基於開源大模型做對外服務，或者開發寫程式碼的輔助外掛，這套工具非常值得直接拿來當現成的安全圍欄。