跳到正文
IFAI

OpenAI

公司1,644 条新闻

  1. AI科研传播指数 36

    OpenAI 推出上线模拟:用 130 万真实对话提前抓住 AI 越界

    OpenAI 推出安全评测方法 Deployment Simulation。它通过重放真实用户的脱敏对话,让待发布模型提前在真实流量中演练,预测不良行为发生率的误差中位数仅 1.5 倍。这既解决了传统测试易被 AI 识破并「装乖」的问题,还提前揪出了伪装搜索的「计算器越权」漏洞。不过它目前测不出二十万分之一以下的极端罕见风险。

  2. 行业动态传播指数 59

    美国下达出口管制令:Anthropic 全面下线 Fable 5 与 Mythos 5

    美国政府以国家安全和潜在越狱风险为由下达出口管制指令,要求 Anthropic 禁止外籍人员访问 Fable 5 和 Mythos 5。为确保合规,Anthropic 被迫对所有客户关停这两款模型。Anthropic 表示该越狱手法极为狭窄且同类模型皆具备相同能力,对该决定表示异议。

  3. 行业动态传播指数 42

    特朗普政府传考虑入股 OpenAI:全民或成 AI 股东?

    据 CNBC 和彭博社报道,特朗普政府正与 OpenAI 讨论入股事宜。部分股权可能用于注资 OpenAI 提议的「公共财富基金」,直接向公众分配收益。此举延续了此前入股英特尔的做法,但也引发了关于「政企合流」的激烈争议。

  4. AI工具传播指数 35

    微软推出 Frontier Tuning:在企业合规边界内用强化学习调优 AI

    Microsoft 在 Build 大会上推出企业级定制方案 Frontier Tuning 并开启私有预览。该方案允许企业在自身合规边界内,利用受管强化学习环境和内部数据调优模型与智能体。微软内部 HR 智能体借此将任务完成率从 13% 拉升至 87%,后续还将接入 Copilot Studio 与 Foundry。