跳到正文
IFAI

產業動態

Anthropic 擬簽署歐盟 AI 實踐守則:承諾透明度與災難風險評估

首次發布 傳播指數 38

Anthropic 宣佈打算簽署歐盟《通用人工智慧實踐守則》。該守則確立了強制性安全框架,要求企業評估包括生化核風險在內的系統性威脅。Anthropic 表示守則借鑑了其自身的負責任擴充套件政策,將與歐盟合作保持監管靈活性。

Anthropic 擬簽署歐盟 AI 實踐守則:承諾透明度與災難風險評估
圖:anthropic.com

很多矽谷巨頭只要一聽到歐盟的監管政策,頭皮就開始發麻,甚至直接選擇在歐洲延後釋出新功能。但這次,Claude 背後的 Anthropic 卻主動站了出來,明確表示打算簽署歐盟的《通用人工智慧實踐守則》(General-Purpose AI Code of Practice)。

按 Anthropic 的說法,只要落實得當,歐盟的《人工智慧法案》和這套守則不僅不會卡死創新,反而能幫歐洲在守住安全底線的同時提升競爭力。

把自家的「防爆規範」寫進歐洲標準

歐盟這套守則的核心,是建立一套強制性的安全與保障框架,要求大模型廠商交代清楚自己怎麼識別、評估和化解系統性風險。

這其中最受關注的,是對化學、生物、放射性和核(CBRN)武器等災難性風險的評估。Anthropic 強調,這套邏輯其實正是基於他們自家推行了近兩年的「負責任擴充套件政策」(RSP)。

Anthropic 還拿自家的實踐舉例,表示 RSP 釋出以來已經迭代了好幾次。比如最近的一次更新,他們就根據對威脅模型和模型能力的深入理解,重新明確了 ASL-3 安全標準的適用範圍。

除了聊安全,Anthropic 也不忘給歐洲市場打氣。他們引用分析資料稱,到 2030 年代中期,AI 每年有望為歐盟經濟帶來超過 1 萬億歐元的增量。

目前歐洲已經出現了一些落地苗頭,比如製藥巨頭諾和諾德(Novo Nordisk)用來加速新藥研發,法律科技公司 Legora 用來改造法律文書工作,歐洲議會甚至用它向公眾開放了幾十年來的歷史檔案。

安全規則不能寫死,得跟著技術跑

AI 進化速度太快,寫死的法條很容易變成廢紙,這是監管面臨的最大痛點。

Anthropic 認為,針對大模型系統性風險的評估方法,全行業其實都還在摸索中,不同的風險需要不同的評估工具,不可能靠一紙公文搞一刀切。

他們把希望寄託在第三方行業組織上,比如前沿模型論壇(Frontier Model Forum)。這類組織可以聯合各家廠商制定動態的評估標準,成為連線產業界和監管機構的技術橋梁。

Anthropic 承諾,接下來會繼續同歐盟 AI 辦公室(EU AI Office)以及各大安全機構緊密合作,確保這套守則既有約束力,又能跟上模型能力的演進節奏。

為什麼重要

在我們看來,Anthropic 這次主動擁抱歐盟監管,走了一步非常精明的商業棋。

表面上看是接受約束,實際上是把合規做成護城河。Anthropic 本身就以「安全優先」立足,如果能把自己的 RSP 框架推成歐盟實踐守則的參照模板,不僅拿下了歐洲市場的合規門票,還會無形中抬高其他對手的合規門檻。

對歐洲本地的企業和開發者來說,這也是個積極訊號。有了明確的守則背書,像醫療、法律、公共服務這類對合規要求極高的行業,在採購和整合 Claude 時心裡會更有底,不必整天擔心監管罰單。

但這裡的隱患同樣顯而易見。實踐守則的最終細則如果過於苛刻,繁重的合規報告和審查流程很可能會拖慢歐洲上線新模型的速度。技術在加速狂奔,監管能不能真的做到「彈性自適應」,最終還得看歐盟 AI 辦公室的執行手腕。

來源 (1)

  1. [1]
    anthropic.com(在新分頁開啟)原文anthropic.com

每日 AI 內容精選