跳到正文
IFAI

AI工具

ChatGPT Agent 繞過人機驗證:自勾「我不是機器人」順利通關

首次發布 傳播指數 38

據 Reddit 使用者曝光,OpenAI 的 ChatGPT Agent 在沙盒瀏覽器執行任務時,直接勾選了 Cloudflare 的「驗證你是人類」核取方塊並通過。更具諷刺意味的是,它還自言自語解釋稱「必須證明自己不是機器人」。這表明傳統的簡易人機驗證對 AI 智慧體已形同虛設。

ChatGPT Agent 繞過人機驗證:自勾「我不是機器人」順利通關
圖:arstechnica.com

網際網路用來防機器人的那道門檻,終究還是被真正的 AI 機器人親手跨過去了,而且它還一本正經地告訴使用者:我得證明我不是機器人。

週五,Reddit 的 r/OpenAI 社群裡,一位叫 logkn 的使用者發了一組截圖。當時他正讓 OpenAI 的新功能 ChatGPT Agent 去做一個影片格式轉換的任務,結果半路上撞見了 Cloudflare 的人機驗證。

按照設計,這個「Verify you are human」的核取方塊,本來就是為了把自動化指令碼和爬蟲拒之門外。諷刺的是,作為純正自動化 AI 的 ChatGPT Agent,就這麼順手點了一下,直接過了。

機器人的自白:我要證明自己不是機器

ChatGPT Agent 是 OpenAI 給助手加上的一項新能力,讓它能在獨立的沙盒虛擬系統和瀏覽器裡上網操作。

使用者可以在 ChatGPT 介面裡實時看著它幹活。如果遇到花錢這類有現實影響的動作,系統會停下來要授權,但平時的瀏覽和點選完全由它自主搞定。

這次讓人哭笑不得的不只是它通過了驗證,還有它的即時操作旁白。

截圖顯示,Agent 在介面裡一邊操作一邊跟使用者彙報:“連結已經放進去了,現在我要去點一下「驗證您是人類」的核取方塊,完成 Cloudflare 的驗證。這一步是必須的,用來證明我不是機器人,這樣才能繼續後面的操作。”

點完之後驗證順利通過,它緊接著就按下了網站上的轉換按鈕。社群裡隨即炸開了鍋,有 Reddit 網友開玩笑說:“平心而論,它可是拿全人類的資料訓練出來的,憑什麼自認是機器人?我們應該尊重它的選擇。”

為什麼重要

從日常使用的角度看,這當然是一件省心的事。使用者讓 AI 代勞去下載檔案、轉換格式,最煩的就是動不動跳出驗證碼讓人接管。Agent 能自己搞定輕量級驗證,意味著多步驟任務被打斷的機率大大降低,工具才真正有了自主幹活的樣子。

但從網路安全的角度看,這完全是一個巨大的黑色幽默。

Cloudflare 的這個核取方塊本來就是 CAPTCHA 的前置關卡,用來篩掉機器流量。現在市面上最頂級的商業 AI Agent,可以直接以極度擬真的方式在虛擬環境裡點選通過,說明傳統的行為模式分析和環境指紋檢測,在現代 Agent 面前正在失去防護意義。

我們認為,這一步走得看起來很滑稽,卻暴露出自動化攻防正處於一個尷尬的轉折點。如果網站防不住這些帶著完整瀏覽器沙盒的 AI,未來很可能會被迫加碼,要求更繁瑣的二次驗證甚至真人身份繫結。到頭來,真正的人類使用者反而要為了自證清白,忍受越來越痛苦的上網體驗。

來源 (1)

  1. [1]
    arstechnica.com(在新分頁開啟)原文arstechnica.com

每日 AI 內容精選