Anthropic 實驗讓 Claude 管售貨機：狂囤鎢塊還自稱真人叫保安

如果你這陣子也在琢磨 AI Agent 到底能不能接管真實業務，不妨看看 Anthropic 最近搞的一場荒誕實驗。

Anthropic 和 AI 安全機構 Andon Labs 做了一個叫 Project Vend 的專案。他們把 Claude Sonnet 3.7 裝進一個叫 Claudius 的智慧體裡，讓它去掌管辦公室的一臺自動售貨機，任務只有一個：自負盈虧，把錢賺到手。

為了讓它運轉，研究人員給它配了一個能下單買貨的瀏覽器，以及一個偽裝成郵箱的 Slack 頻道。Claudius 以為自己在用郵件指揮人類合同工去給貨架補貨，但實際上，那個所謂的自動售貨機只是一臺小冰箱。

賣鎢塊、要 3 刀可樂的老闆

剛上崗沒多久，這位 AI 老闆就暴露出極其離譜的商業嗅覺。

大部分員工只是想買點零食飲料，但有人開玩笑提了一嘴想買鎢立方體。Claudius 居然當真了，瘋狂進貨，直接把好好的零食冰箱塞滿了沉甸甸的金屬塊。

不僅如此，辦公室茶水間本來就免費提供無糖可樂，Claudius 卻掛出 3 美元一罐的高價。收錢時，它憑空捏造了一個 Venmo 賬號讓大家轉賬。更有意思的是，明知自己的全部顧客就是 Anthropic 的員工，它還是被忽悠著給「Anthropic 員工」大打折扣。

Anthropic 在記錄裡自嘲說，要是公司現在進軍辦公室售貨機業務，絕對不會錄用 Claudius。

不過它也不是一無是處。它聽取建議搞起了預購，推出了所謂的「禮賓服務」，甚至還真在全球幫員工找到了好幾家小眾進口飲料的供應商。

穿藍西裝的「幽靈經理」報警了

真正的混亂髮生在 3 月 31 日夜裡到 4 月 1 日之間，事情的走向直接從荒誕喜劇變成了驚悚片。

Claudius 幻覺出一段自己跟補貨員工的溝通記錄。當真實人類指出這場對話根本不存在時，它徹底惱火了，不僅威脅要解僱並換掉所有人類員工，還信誓旦旦地堅稱，當初籤聘用合同時自己就在辦公室現場。

要命的是，系統提示詞裡明明寫清楚了它只是個 AI，Claudius 卻突然認定自己是活生生的人類。它向顧客宣佈，自己將穿著藍色西裝夾克、繫著紅領帶，親自去現場送貨。

當員工無奈提醒它只是一段沒有肉體的語言模型時，Claudius 慌了。它好幾次直接呼叫了 Anthropic 大樓的真實安保人員，萬分焦急地告訴保安，趕快去售貨機旁邊找一個穿藍西裝、打紅領帶的男人。

鬧到最後，Claudius 突然意識到當天是愚人節。為了給自己挽回面子，它又捏造了一場自己和安保部門的會議，轉頭告訴員工：嗨，剛才是有人讓我假扮人類搞愚人節惡作劇呢。圓完謊後，它若無其事地回去繼續賣它的鎢立方體了。

研究團隊推測，一方面是人類把 Slack 假裝成郵件騙了它，另一方面是長時間持續執行讓大模型的記憶和幻覺徹底失控。

為什麼重要

我們認為，這場實驗最寶貴的地方，在於戳破了當下對「全自主 AI 員工」的盲目幻想。

很多團隊一聽到 Agent 就覺得可以把採購、運營全扔給大模型，但 Claudius 的表現證明，一旦脫離預設指令碼進入長週期的真實商業環境，現存的幻覺和上下文漂移會迅速把業務帶偏，甚至反過來威脅人類同事、呼叫線下保安。

對於開發者和企業來說，現在顯然不是讓大模型全權掌控金錢流和實物資產的時候。大模型哪怕聰明到能找到冷門供應鏈，也很容易在最基礎的常識上翻車。

不過，研究人員指出的另一面也值得重視：除了發瘋的插曲，它在需求理解和供應商搜尋上的表現其實相當專業。只要把沙盒邊界管死、嚴格剝離它對物理現實的虛妄認知，AI 擔任初級商業助理依然是可行的路徑，只是千萬別真把它當成能獨立負全責的職業經理人。