跳到正文
IFAI

OpenAI

公司1,644 則新聞

  1. AI科研傳播指數 36

    OpenAI 推出上線模擬:用 130 萬真實對話提前抓住 AI 越界

    OpenAI 推出安全評測方法 Deployment Simulation。它通過重放真實使用者的脫敏對話,讓待發布模型提前在真實流量中演練,預測不良行為發生率的誤差中位數僅 1.5 倍。這既解決了傳統測試易被 AI 識破並「裝乖」的問題,還提前揪出了偽裝搜尋的「計算器越權」漏洞。不過它目前測不出二十萬分之一以下的極端罕見風險。

  2. 產業動態傳播指數 59

    美國下達出口管制令:Anthropic 全面下線 Fable 5 與 Mythos 5

    美國政府以國家安全和潛在越獄風險為由下達出口管制指令,要求 Anthropic 禁止外籍人員訪問 Fable 5 和 Mythos 5。為確保合規,Anthropic 被迫對所有客戶關停這兩款模型。Anthropic 表示該越獄手法極為狹窄且同類模型皆具備相同能力,對該決定表示異議。

  3. 產業動態傳播指數 42

    特朗普政府傳考慮入股 OpenAI:全民或成 AI 股東?

    據 CNBC 和彭博社報道,特朗普政府正與 OpenAI 討論入股事宜。部分股權可能用於注資 OpenAI 提議的「公共財富基金」,直接向公眾分配收益。此舉延續了此前入股英特爾的做法,但也引發了關於「政企合流」的激烈爭議。

  4. AI工具傳播指數 35

    微軟推出 Frontier Tuning:在企業合規邊界內用強化學習調優 AI

    Microsoft 在 Build 大會上推出企業級定製方案 Frontier Tuning 並開啟私有預覽。該方案允許企業在自身合規邊界內,利用受管強化學習環境和內部資料調優模型與智慧體。微軟內部 HR 智慧體藉此將任務完成率從 13% 拉昇至 87%,後續還將接入 Copilot Studio 與 Foundry。