OpenAI 成立紅隊網路:廣招外部專家測漏洞,年投 5 小時也行
OpenAI 宣佈成立紅隊網路,面向全球招募外部專家參與模型安全與對抗測試。成員將按專案獲得報酬,每年投入可低至 5 到 10 小時。這意味著 OpenAI 正在將過去模型釋出前的一次性審查,轉變為持續、常態化的跨領域協同防禦。
OpenAI 宣佈成立紅隊網路,面向全球招募外部專家參與模型安全與對抗測試。成員將按專案獲得報酬,每年投入可低至 5 到 10 小時。這意味著 OpenAI 正在將過去模型釋出前的一次性審查,轉變為持續、常態化的跨領域協同防禦。
Microsoft 宣佈把 AI 設計工具 Designer 引入免費版 Teams,率先在 Windows 11 開啟預覽。使用者輸入文本即可呼叫 DALL-E 2 生成海報、演示插圖和明信片。聊天工具直接內建輕量設計能力,省去了跳出應用找素材的麻煩。部分高階功能後續將納入訂閱收費。
TechCrunch 梳理針對 OpenAI、Stability AI 等公司的版權訴訟潮。核心爭議在於模型抓取公開資料訓練是否屬於「合理使用」。法律專家警告訴訟才剛起步,企業若在商業產品中誤用生成內容將面臨高額法律風險。
Shutterstock 在旗下 Creative Flow 平臺推出文生圖工具,底層接入 OpenAI 的 DALL-E 2。新功能最大的特點是生成的圖片直接可供商業授權,Shutterstock 同時承諾會向貢獻訓練資料的創作者支付分成。
PCMag 報道 Tidio 的實測結果,指出主流 AI 生圖工具普遍繼承了人類的刻板印象。在測試中,Stable Diffusion 生成的 CEO 與程式設計師全為白人男性,只有加上「情緒化」才會出現女性 CEO。調查顯示僅 2% 受訪者認為 AI 沒有偏見。
據報道,OpenAI 正測試一種文本水印方案,通過密碼學函式在生成 token 時植入人眼難察的隱形標記。只要文本達到幾百個 token(約一整段),就能識別是否出自 GPT,即便調整語序或刪減詞彙也難抹除,試圖遏制學術抄襲與虛假宣傳。
前 Meta 開發者推出短影片生成工具 QuickVid。使用者只需輸入一個提示詞,它就能呼叫 GPT-3 寫指令碼、DALL-E 2 生圖、Google TTS 配音並拼接背景素材。最值得關注的是,它把零散 AI 串成了短影片流水線,但也引發了垃圾內容氾濫的擔憂。
盤點了支撐當下影像生成 AI 的核心技術擴散模型的發展歷程。擴散模型借鑑非平衡熱力學,通過學習從噪聲中恢復資料的逆過程,並在 OpenAI CLIP 的指引下實現精準生成。除了畫畫,該架構正快速擴充套件至音樂創作以及蛋白質和 DNA 序列設計等生物醫療領域。
簡報工具 Tome 上線 AI 創作功能。軟體接入 GPT-3 與 DALL-E 2,輸入主題即可自動生成包含文字大綱與配圖的幻燈片初稿,插圖支援換提示詞重繪。目前該功能處於測試期且免費開放,後續將支援複雜圖表排版並引入收費方案。