跳到正文
IFAI

產業動態

三大巨頭同意「發前先查」:Google、微軟與 xAI 允許美政府預審新模型

首次發布 傳播指數 42

週二,Google DeepMind、微軟與 xAI 同意讓美國商務部的人工智慧標準與創新中心(CAISI)在釋出前審查新 AI 模型。CAISI 將負責部署前評估,此前已完成 40 次審查。OpenAI 與 Anthropic 也已重籤協議配合監管。

三大巨頭同意「發前先查」:Google、微軟與 xAI 允許美政府預審新模型
圖:theverge.com

發新大模型之前,先給美國政府看一眼。Google DeepMind、微軟以及馬斯克旗下的 xAI 剛與美國商務部達成了這項共識。

審查名單擴大,前沿模型先過篩

美國商務部下屬的人工智慧標準與創新中心(CAISI)宣佈,將與這三家公司合作展開部署前評估和專項研究,主要為了測試前沿 AI 的真實能力以及對國家安全的影響。

CAISI 並不是第一天做這件事。從 2024 年與 OpenAI 和 Anthropic 合作以來,該機構已經完成了 40 次模型審查。

據彭博社報道,OpenAI 和 Anthropic 最近還重新談判了合作條款,好讓評估重點更貼合特朗普總統的「AI 行動計劃」。

監管可能還會進一步收緊。據《紐約時報》報道,白宮正考慮簽署一項行政命令,把科技高管和政府官員召集到一起,專門監督新模型的釋出。

為什麼重要

至此,美國最核心的幾家前沿大模型廠商,基本全部被納入了政府的釋出前測試體系中。

對於開發者和普通使用者來說,這不會立刻改變你今天呼叫的 API,但它可能會讓下一代前沿大模型的釋出節奏變慢。尤其是在涉及網路安全、生物風險等敏感能力時,廠商不能再單方面直接推向市場。

我們認為,大廠主動配合 CAISI 是一次回防。對科技巨頭來說,接受商務部的自願評估,遠比等待國會出臺嚴苛的強制立法更可控。

但隱患依然存在。隨著白宮換屆和政策轉向,評估標準正在向新的行政指令靠攏。當安全評估參雜了政策優先順序的考量,技術審查與行政干預之間的界線就很容易變得模糊。

來源 (1)

  1. [1]
    theverge.com(在新分頁開啟)原文theverge.com

每日 AI 內容精選