跳到正文
IFAI

大模型

ChatGPT 新玩法引隱私擔憂:靠 o3 視覺推理反查照片位置

首次發布 傳播指數 49

TechCrunch 報道許多使用者正利用 OpenAI 新上線的 o3 和 o4-mini 模型推斷照片拍攝地點。模型能通過對模糊細節裁剪、縮放並結合聯網搜尋,精準推算出餐館或街區。這種類似地理猜謎的玩法展現了推理能力,但也帶來了人肉搜尋等隱私風險。

ChatGPT 新玩法引隱私擔憂:靠 o3 視覺推理反查照片位置
圖:techcrunch.com

隨便發一張抓拍、一張選單甚至角落裡的自拍照,AI 就能在幾十秒內告訴你具體在哪家店。很多人玩得上頭,但仔細一想,這事其實挺讓人背脊發涼。

本週 OpenAI 推出了新模型 o3 和 o4-mini,主打視覺推理能力。社交平臺 X 上隨即掀起了一股新玩法:大家把各種模糊、變形的日常照片丟給 ChatGPT,讓它扮演地理推斷遊戲 GeoGuessr 的選手,搞反向地點檢索。

把它當成 GeoGuessr 玩

新模型在拿到圖片後,自己會去裁剪、旋轉甚至放大細節,再結合聯網搜尋去拼湊線索。

在很多測試案例裡,模型根本不需要照片自帶的 EXIF 後設資料,也不靠之前的聊天記錄。僅僅憑著背景裡的裝潢風格、書架排列或者外牆特徵,它就能把範圍縮小到某座城市的某條街。

有使用者在 X 上發帖說,朋友隨便給了一張在圖書館裡拍的照片,沒有拍到任何標誌性招牌,o3 在 20 秒內就給出了完全正確的地點。

一時間,街景照片、餐廳外立面甚至自拍照都被大家拿來投餵給 o3。大家覺得好玩,但潛在的隱私風險已經擺在眼前:如果有人擷取別人社交動態裡的照片,直接拿去人肉搜尋該怎麼辦。

昏暗酒吧裡的紫色犀牛頭

其實反向搜圖不是 o3 的專屬。外媒 TechCrunch 拿老模型 GPT-4o 和 o3 做了對比測試。

讓人意外的是,在不少普通場景下,沒有搭載影像推理鏈條的 GPT-4o 也能猜中答案,而且耗費的時間比 o3 更短。

但到了極度刁鑽的線索上,o3 確實展現出了更強的推斷力。在測試一張昏暗酒吧內掛著紫色犀牛頭標本的照片時,GPT-4o 以為那是一家英國酒館,而 o3 卻準確推斷出這是紐約威廉斯堡的一家地下酒吧。

當然 o3 也有翻車的時候。遇到看不懂的圖,它可能會陷入死迴圈,或者給出一個十萬八千里的離譜答案。

OpenAI 隨後回應稱,這種視覺推理主要用於無障礙輔助、學術研究或應急響應中的定位。官方表示已經訓練模型拒絕私人或敏感資訊請求,並禁止模型識別圖片中的私人個體。

為什麼重要

我們認為,這件事最值得警惕的地方在於,過去需要專業開源情報分析員花幾天時間比對的技術,現在變成了任何人隨手就能呼叫的平民工具。

對普通人來說,這幾乎宣告了在公共網路上隱身變得更加困難。你可能注意遮擋了門牌號,抹掉了照片裡的 GPS 資訊,但只要背景裡有一盞獨特造型的吊燈、半張特別的選單,AI 就可能順藤摸瓜鎖定你的現實行蹤。

OpenAI 的安全邊界看起來依然存在漏洞。官方在 o3 和 o4-mini 的安全報告裡並沒有專門針對反向地點查詢做出限制,雖然禁止了直接識別人臉,但通過背景倒推常去場所,危害同樣不小。

接下來,各大模型廠商很可能會被迫在位置隱私上補課。如何在保留搜圖實用性和防止人肉搜尋之間劃清界限,已經不再是一個理論問題,而是馬上要面對的現實麻煩。

來源 (1)

  1. [1]
    techcrunch.com(在新分頁開啟)原文techcrunch.com

每日 AI 內容精選