Anthropic 公佈「Best-of-N」越獄研究：跨模態繞過模型安全防線

越強大的模型，安全防線可能越容易被簡單的策略撕開。Anthropic 聯合研究人員公佈了一項名為「Best-of-N Jailbreaking」的最新研究，找到了一種能繞過多模態安全護欄的通用手段。

穿透文本、視覺與音訊的通用手法

根據 Anthropic 披露的資訊，這是一種簡單且通用的越獄方法，可以直接繞過前沿 AI 模型的安全防禦機制。

以往很多攻擊手段往往侷限在特定場景，但這項研究發現的機制不同，它能同時在文本、視覺和音訊三種模態下生效。這意味著攻擊者不需要為不同形態的輸入單獨設計複雜的繞過邏輯，用一套通用的思路就有可能讓前沿模型失守。

為什麼重要

這給全行業敲響了警鐘：多模態安全不能再靠單點打補丁來維持。

目前很多團隊的安全對齊仍然重在文本層面，對視覺和音訊等多模態輸入的防禦還不夠完備。如果一套簡單方法就能橫跨三種模態直接破防，現有的防護體系看起來很容易捉襟見肘。

我們認為，Anthropic 把這項攻防研究公開走得很對。與其等潛在風險在暗處被擴散，不如提前把脆弱點擺在檯面上，倒逼各家前沿模型實驗室重新審視跨模態環境下的底層安全機制。