微软公布 AI 安全承诺进展：Bing 自动标明 AI 生图，扩充红队

全球首届 AI 安全峰会马上要在英国布莱奇利园开幕，各家科技巨头都急着在监管大考前交作业。

微软抢先公布了自己在 AI 安全与治理方面的落地进展，全面对标英国政府列出的九大重点领域。

说白了，微软这次就是给 7 月份在白宫签署的自愿承诺交出一份阶段性成绩单，告诉外界自己不是光签协议不干活。

独立红队下场，给生图工具打上防伪标

很多人以为做 AI 安全就是写几页合规文档，但微软这次把重点放在了实战攻防上。

微软扩充了自己的独立 AI 红队，专门负责找高风险系统的漏洞。这支队伍完全独立于产品研发部门，避免自己人给自家人放水。

在 OpenAI 于 9 月发布 DALL-E 3 之后，微软红队立刻联合跨部门专家，对接入该技术的 Bing Image Creator 展开了深度红队演练。

光堵漏洞还不够，怎么让大家认出 AI 生成的内容也是个麻烦事。

微软已经在 Bing Image Creator 里全面实装了内容溯源技术。现在只要是它生成的图片，都会自动打上 AI 生成的标记。

底层采用的是 C2PA 规范，这项标准是微软拉着 Adobe、Arm、BBC、Intel 和 Truepic 一起制定的，目的就是给数字媒体立一套通用的出生证明。

改写开发流程，撒钱拉拢学术圈

为了不让安全流于表面，微软动了自己用了十几年的底层工程规范。

他们把负责任 AI 标准直接整合进了经典的软件安全开发生命周期也就是 SDL 流程里。同时，威胁建模规范也加入了针对机器学习特有风险的排查要求。

与此同时，微软还在大力拉拢学术界和同行。

通过加速基础模型研究计划，微软在 9 月一口气资助了来自 13 个国家、75 家研究机构的 125 个新项目，专门搞安全、对齐和生命科学应用。

另外，微软还拉上 Anthropic、Google 和 OpenAI 组成了前沿模型论坛，不仅自己出钱成立安全基金，接下来还要跟斯坦福基础模型研究中心以及 ML Commons 一起制定测评标准。

为什么重要

对于每天用 Bing Image Creator 甚至未来用各类 Copilot 的普通用户和创作者来说，微软的做法至少提供了一个明确的透明度底线。C2PA 水印让你一眼能看出图是不是 AI 画的，而独立红队的介入，也能减少普通人在日常使用中撞见离谱或危险内容的概率。

对整个行业来说，这场安全军备竞赛正在把合规门槛抬得极高。小创业团队根本养不起独立的专业红队，更别提去资助全球上百个科研项目。微软拉着 Google、OpenAI 成立小圈子制定标准的做法，实际上是在提前锁定未来 AI 行业的游戏规则。

我们认为，微软这一步走得相当精明。它没有等各国政府出台强制法规把自己套住，而是抢先把行业老大哥的技术标准包装成治理模范，反向输出给英国峰会和白宫。

但这里的隐患也显而易见。C2PA 这样的溯源标准再严密，也往往防君子不防小人，一旦开源模型不遵守规则或者恶意攻击者抹掉元数据，大厂自律搭起来的防线就很容易出现缺口。把安全寄托在巨头的自愿承诺上，看起来依然是整个行业在强监管落地前的一种权宜之计。