OpenAI 成立红队网络:广招外部专家测漏洞,年投 5 小时也行
OpenAI 宣布成立红队网络,面向全球招募外部专家参与模型安全与对抗测试。成员将按项目获得报酬,每年投入可低至 5 到 10 小时。这意味着 OpenAI 正在将过去模型发布前的一次性审查,转变为持续、常态化的跨领域协同防御。
OpenAI 宣布成立红队网络,面向全球招募外部专家参与模型安全与对抗测试。成员将按项目获得报酬,每年投入可低至 5 到 10 小时。这意味着 OpenAI 正在将过去模型发布前的一次性审查,转变为持续、常态化的跨领域协同防御。
Microsoft 宣布把 AI 设计工具 Designer 引入免费版 Teams,率先在 Windows 11 开启预览。用户输入文本即可调用 DALL-E 2 生成海报、演示插图和明信片。聊天工具直接内置轻量设计能力,省去了跳出应用找素材的麻烦。部分高级功能后续将纳入订阅收费。
TechCrunch 梳理针对 OpenAI、Stability AI 等公司的版权诉讼潮。核心争议在于模型抓取公开数据训练是否属于「合理使用」。法律专家警告诉讼才刚起步,企业若在商业产品中误用生成内容将面临高额法律风险。
Shutterstock 在旗下 Creative Flow 平台推出文生图工具,底层接入 OpenAI 的 DALL-E 2。新功能最大的特点是生成的图片直接可供商业授权,Shutterstock 同时承诺会向贡献训练数据的创作者支付分成。
PCMag 报道 Tidio 的实测结果,指出主流 AI 生图工具普遍继承了人类的刻板印象。在测试中,Stable Diffusion 生成的 CEO 与程序员全为白人男性,只有加上「情绪化」才会出现女性 CEO。调查显示仅 2% 受访者认为 AI 没有偏见。
据报道,OpenAI 正测试一种文本水印方案,通过密码学函数在生成 token 时植入人眼难察的隐形标记。只要文本达到几百个 token(约一整段),就能识别是否出自 GPT,即便调整语序或删减词汇也难抹除,试图遏制学术抄袭与虚假宣传。
前 Meta 开发者推出短视频生成工具 QuickVid。用户只需输入一个提示词,它就能调用 GPT-3 写脚本、DALL-E 2 生图、Google TTS 配音并拼接背景素材。最值得关注的是,它把零散 AI 串成了短视频流水线,但也引发了垃圾内容泛滥的担忧。
盘点了支撑当下图像生成 AI 的核心技术扩散模型的发展历程。扩散模型借鉴非平衡热力学,通过学习从噪声中恢复数据的逆过程,并在 OpenAI CLIP 的指引下实现精准生成。除了画画,该架构正快速扩展至音乐创作以及蛋白质和 DNA 序列设计等生物医疗领域。
演示文稿工具 Tome 上线 AI 创作功能。软件接入 GPT-3 与 DALL-E 2,输入主题即可自动生成包含文字大纲与配图的幻灯片初稿,插图支持换提示词重绘。目前该功能处于测试期且免费开放,后续将支持复杂图表排版并引入收费方案。