跳到正文
IFAI

產業動態

Anthropic 更新使用政策:管住智慧體與駭客行為,放寬政治研究

首次發布 傳播指數 39

Anthropic 宣佈更新 Claude 使用政策,新規將於 9 月 15 日生效。針對 Claude Code 等工具的普及,官方明確禁止惡意入侵基礎設施和製造惡意軟體;同時放寬了一刀切的政治禁令,允許政策研究與公民教育,但仍嚴禁選民定向和破壞選舉。

Anthropic 更新使用政策:管住智慧體與駭客行為,放寬政治研究
圖:anthropic.com

過去一年裡,AI 不再只是在聊天框裡寫寫詩,它開始能自己敲程式碼、點滑鼠、接管電腦了。當大模型長出了手腳,原本那些寫在紙上的使用條款,就顯得有點跟不上節奏了。

Anthropic 正式公佈了新版使用政策。這套新規將在 2025 年 9 月 15 日生效,不僅給自家跑得飛快的智慧體劃出紅線,還順手鬆綁了過去卡得過死的部分政治研究場景。

給智慧體立規矩,給合法研究鬆綁

這次調整最顯眼的變化,落在了網路安全和自主智慧體上。

Anthropic 在過去一年陸續推出了 Claude Code 和 Computer Use,自家模型也成了很多主流程式設計工具的底座。模型開始有能力執行復雜操作,破壞力自然也水漲船高。

新政策直接劃死了底線,明確禁止任何針對計算機、網路或基礎設施的惡意入侵活動。但在系統所有者明確同意的前提下,幫著找系統漏洞這種強化網路安全的行為,依然是被允許的。

另一個大動作是對政治內容的鬆綁。以前 Anthropic 採取一刀切的做法,幾乎把所有遊說和競選相關的內容全都拒之門外。

很多使用者反饋,連正常的政策分析、公民教育和政治文章都被誤傷了。這次新規把紅線收窄到了具有欺騙性、破壞民主程式,或者搞精準選民定向的行為,給正經的學術和政策研究留出了空間。

在高風險場景上,新規也做了一次實用主義的切分。像法律、金融、就業這類關係到個人權益的領域,必須有人類介入監督,也必須明確告知對方這是 AI 生成的。但 Anthropic 明確表示,這一嚴苛限制只針對面向普通消費者的場景,企業與企業之間的 B2B 業務並不在此列。

至於執法部門的使用,核心規則沒變,監控、追蹤、使用者畫像和生物識別依然被嚴禁,只是把之前讓人眼花繚亂的後臺分析豁免條款寫得更直白了些。

為什麼重要

我們認為,Anthropic 這一步走得相當務實,它標誌著大模型廠商的管理思路正從防範內容生成,轉向防範行為失控。

對於開發者和企業使用者來說,這是個好訊息。如果你是在做 B2B 的金融或法律分析工具,不再會被消費級的合規枷鎖綁住手腳;搞政策研究和智庫寫作的學者,也不用再天天擔心因為觸碰政治關鍵詞而被直接封號。

但對 Anthropic 來說,真正的考驗才剛開始。文字容易攔截,可當 Claude Code 這類智慧體在後臺呼叫終端、執行指令碼時,惡意攻擊和正常除錯之間的邊界往往只有一線之隔。寫出條款容易,但在執行層面,平臺怎麼在不侵犯隱私的前提下判斷一個操作是不是越界入侵,目前看起來依然缺乏足夠透明的裁決機制。

和其他對手相比,Anthropic 這次沒有選擇繼續靠打補丁的方式維持表面上的安全形象,而是開始把能力成熟的產品和玩具徹底區分開來。這種分級監管的做法很聰明,但也是在逼著行業直面一個現實:智慧體時代,光管住模型的嘴已經不管用了,更要看住它的手。

來源 (1)

  1. [1]
    anthropic.com(在新分頁開啟)原文anthropic.com

每日 AI 內容精選