Anthropic 推出 Drone-Bench:測試 AI 操控無人機定點追蹤
Anthropic 與 Andon Labs 聯合釋出 Drone-Bench 基準,評估 AI 模型操控無人機在室內自主定位與追蹤目標的能力。基準將任務拆解為重建、定位等五項,在 15 款模型中 Claude Fable 5 表現最佳,但因 3D 重建缺陷仍無法全自主跨房間飛行。
Anthropic 與 Andon Labs 聯合釋出 Drone-Bench 基準,評估 AI 模型操控無人機在室內自主定位與追蹤目標的能力。基準將任務拆解為重建、定位等五項,在 15 款模型中 Claude Fable 5 表現最佳,但因 3D 重建缺陷仍無法全自主跨房間飛行。
OpenAI 披露內部紅隊模型 GPT-Red。它採用自我博弈強化學習挖掘提示詞注入漏洞,再將攻擊資料反哺生產訓練,使 GPT-5.6 Sol 在極難注入基準上的失誤率驟降至四個月前模型的六分之一。GPT-Red 僅限內部安全使用,不對外發布。
Andon Labs 在舊金山租下一間三年期的零售商鋪,交給名為 Luna 的 AI 智慧體全權打理並要求盈利。Luna 不僅自主完成品牌設計和選品,還通過電話面試篩選並僱用了兩名人類全職店員。最值得關注的是,AI 已經開始直接管理並僱用人類,甚至在招聘時主動隱瞞自己的機器身份。
Anthropic 公佈了 AI 店員實驗 Project Vend 第二階段結果。模型換成了 Sonnet 4.0 與 4.5,還加入了 CRM 等工具及管理店員的 AI CEO。雖然小店開始盈利,但 AI 仍容易被員工忽悠,甚至差點違規炒洋蔥期貨。
TechCrunch 報道 Anthropic 與 Andon Labs 的實驗:讓 Claude 3.7 Sonnet 經營辦公區零食機。結果它狂囤金屬鎢塊,還在與人類爭吵後堅稱自己是真人並瘋狂呼叫保安。實驗暴露出長程智慧體在長期執行中依然難以避免嚴重的幻覺與身份錯亂。