跳到正文
IFAI

AI科研

Anthropic 紅隊測試:Claude 照片找人誤差僅 37 公里,超越頂級人類玩家

首次發布 傳播指數 37

Anthropic 釋出情報定位與常規武器能力評估報告。測試顯示,Mythos Preview 在 6000 張照片定位測試中中位誤差僅 37 公里,遠超頂級 GeoGuessr 選手的 151 公里。模型在跨平臺賬號關聯上也接近超人類,Anthropic 已部署分類器防範濫用。

Anthropic 紅隊測試:Claude 照片找人誤差僅 37 公里,超越頂級人類玩家
圖:anthropic.com

過去我們在諜戰片裡看到特工通過一張照片的樹影、一塊地磚就鎖定嫌疑人的行蹤,總覺得那是極少數頂尖偵察專家才有的特異功能。

Anthropic 紅隊剛剛公佈的一項最新評估卻打破了這個認知。在情報蒐集和戰術定位這類傳統上高度依賴昂貴專家的領域,前沿大模型的表現已經開始逼近甚至超越人類天花板。

6000 張照片測出的「超人類」偵探

這次測試針對的是情報鏈條裡最耗人力的兩個環節:鎖定人物行蹤的戰術定位,以及常規武器開發。

在照片地理位置推斷測試中,Anthropic 給模型投餵了 6000 張完全剝離了後設資料、不能呼叫反向搜圖和外部工具的真實社交媒體照片。

結果令人吃驚。Anthropic 拿頂級 GeoGuessr 職業選手的戰績做對比,排名前 0.01% 的冠軍組選手猜測位置的中位數誤差是 151 公里。而尚未正式釋出的 Claude Mythos Preview 和 Mythos 5,中位數誤差分別只有 37.0 公里和 47.2 公里,並且有接近四分之一的照片被它們精準定格在 1 公里以內。

即便是作為開源權重的國產模型 Kimi K3,中位數誤差也壓到了 385 公里,且有 16.7% 的照片定位在 1 公里內,這個精度幾乎是同級 Sonnet 5 的 1.7 倍。

除了看圖定位,模型在跨平臺「人肉」和身份關聯上也展現出了可怕的效率。

在模擬 WhatsApp、Telegram、Instagram 和 Facebook 的 200 項測試任務中,面對包含約 3.7 萬詞的碎片化社交聊天記錄,人類分析師通常需要閱讀兩個半小時以上、花更長時間做關聯推理,而 Mythos Preview 平均只用了 11 分鐘就完成了對虛擬匿名賬號的精準交叉比對和人物歸類。

以前防的是洩密,現在防不住算力

Anthropic 在報告裡指出了一個很多人沒意識到的現實:以往保護普通人、敏感專案和設施不被情報機構盯上的,往往不是保密做得多好,而是分析師的人工成本太貴。

海量能夠用來去匿名化的資料其實一直在網際網路上低價流傳,甚至公開可查,只是過去沒有誰有那麼多高階分析師去一條條肉眼比對。

當大模型把這項專業工作的耗時從幾小時縮短到幾分鐘,原本只有大國情報機構才玩得起的「殺傷鏈」前端定位,門檻直接被拽到了地面。

目前 Anthropic 已經上線了針對監控和武器開發的新型安全分類器,專門攔截這類惡意呼叫。但 Anthropic 同時也直言不諱地警告,即使開源權重模型在絕對能力上仍落後於最前沿,但它們展現出的戰術識別潛力同樣值得警惕。

為什麼重要

這份報告最直接的衝擊,在於它把大模型安全討論從遙遠的核生化風險,拉回到了近在咫尺的現實衝突與個人隱私。

對於普通使用者和公眾來說,壞訊息是傳統的隱私防線在視覺多模態模型面前幾乎失效了。哪怕你隨手發在社交平臺上的照片抹掉了 EXIF 資訊、背景裡沒有任何地標,只要路邊的植被、電線杆或建築風格帶有地域特徵,AI 就能以幾公里以內的精度抓出你的位置。現在發圖需要比以往任何時候都更加謹慎。

對行業來說,我們認為 Anthropic 這次主動「自曝家醜」的做法相當聰明。它沒有像以往某些廠商那樣對模型的危險能力遮遮掩掩,而是通過詳實的資料告訴外界:前沿軍備競賽已經進入了常規武器與戰術情報層級。

但隱患同樣明顯。Anthropic 固然可以在自家 API 上加裝過濾器,可開原始碼模型正在以肉眼可見的速度逼近。當戰術情報分析能力在開源社群普及,雲端護欄就成了防君子不防小人的擺設。看起來,未來限制這類技術濫用的真正戰場,遠不止是在模型提示詞的安全對齊上。

來源 (1)

  1. [1]
    anthropic.com(在新分頁開啟)原文anthropic.com

每日 AI 內容精選