Hugging Face 揭秘 H4 團隊：僅用兩人打造 Zephyr 等開源模型
TechCrunch 報道 Hugging Face 旗下僅有兩名成員的 H4 團隊，正專注於大模型對齊研究。他們此前打造了熱門的 Zephyr-7B-α 等開源模型，團隊雖小但呼叫了千張 A100 GPU，並把訓練程式碼與資料集整合成手冊免費公開。
AI安全
檢視更新的新聞
GitHub Advanced Security 引入 AI：自動修漏洞、抓洩露密碼
GitHub 為 GitHub Advanced Security 推出三項 AI 功能預覽。程式碼掃描能針對 JavaScript 和 TypeScript 的告警由大模型自動生成修復程式碼並直接提交；秘密掃描利用 AI 識別無固定格式的洩露密碼；此外還支援用問答方式生成自定義正則規則。
FTC 介入版權爭議：警告生成式 AI 侵權或觸犯反不正當競爭法
FTC 近日向美國版權局提交罕見意見書，警告即使抓取訓練資料符合「合理使用」，若涉及盜版或未經授權模仿藝術家聲畫欺騙消費者，仍可能觸犯 FTC 法案。批評者則指責該機構越權，恐削弱合理使用原則並打擊 AI 初創公司。
好萊塢罷工談判再卡殼：製片廠想永久買斷演員 AI 肖像，工會拒絕
好萊塢演員工會與製片廠聯盟的談判再次停滯，核心分歧仍是 AI。製片廠提議永久擁有部分高收入演員的數字肖像權，甚至死後無需家屬同意即可使用；工會堅決拒絕，要求每次呼叫都必須重新徵得同意並按次付費。
斯嘉麗·約翰遜起訴 AI 應用：廣告未經許可克隆其聲音與肖像
據 Variety 報道，斯嘉麗·約翰遜正對 AI 應用 Lisa AI 的開發商 Convert Software 採取法律行動。該應用在一段 22 秒的廣告中擅自用 AI 克隆她的聲音推銷生成功能；儘管片尾寫著與本人無關，其律師明確表示絕不姑息。
Instagram 被曝內測「AI 朋友」：支援自定義年齡、性格與興趣
開發者曝光的截圖顯示，Instagram 正在開發「AI 朋友」功能。使用者可以設定機器人的性別、年齡、性格特徵與興趣偏好，並挑選專屬頭像開啟對話。相比 Meta 此前推出的名人 AI 角色，這項功能更側重開放式日常陪伴，目前 Instagram 對此未予置評。
多國簽署《布萊切利宣言》：美國同時宣佈成立 AI 安全研究所
在英國布萊切利園舉行的 AI 安全峰會上，英國科技大臣釋出《布萊切利宣言》，呼籲全球合作應對前沿 AI 模型風險。同日美國商務部宣佈將在 NIST 下成立 AI 安全研究所，與英方等機構協作推進監管對齊。
柯林斯詞典評選 2023 年度詞彙：使用量暴增 4 倍，「AI」當選
英國柯林斯詞典（Collins Dictionary）宣佈將「AI」評為 2023 年度詞彙。官方表示，該詞在今年的使用量增長了四倍，已像電子郵件一樣迅速融入公眾日常生活。伴隨技術突破與全球監管討論，AI 徹底成為貫穿全年的核心話題。
藝術家告 Midjourney 與 Stability 侵權：法官駁回部分指控
美國聯邦法官裁定縮減藝術家針對 Stability AI、Midjourney 等公司的版權訴訟範圍。法院駁回了「AI 生成的所有圖片自動構成侵權」的主張，並駁回針對 Midjourney 的侵權指控，但保留了 Stability AI 涉嫌非法使用版權圖片訓練模型的訴訟。原告獲准修改起訴書。
Meta AI 負責人發聲：傳統開源協議管不住大模型，規則該改了
Meta AI 負責人 Joelle Pineau 表示，現存軟體開源協議無法應對大模型的版權與安全風險，許可規則需要更新。儘管 Llama 2 設立門檻被外界批評不算真開源，但開源促進會（OSI）也承認傳統規則不夠用，正著手起草專門面向 AI 的開源定義。
拜登簽署AI行政命令：最強模型釋出前必須交出紅隊測試報告
美國總統拜登簽署關於人工智慧的行政命令。新規動用《國防生產法》，要求開發潛在高風險大模型的企業在訓練時通報聯邦政府，並在公開前共享紅隊測試結果，同時責令制定 AI 內容水印標準。這是美國首個針對前沿 AI 的全面國家監管框架。
Yan LeCun 發文警告：扼殺開源 AI 將讓少數巨頭壟斷知識
Yan LeCun 發文批評部分科技高管借末日論遊說監管、試圖封殺開源 AI。他指出，未來 AI 承載全人類知識，必須像維基百科一樣保持開源；一旦監管消滅開源，少數美中巨頭將壟斷平臺並徹底控制人類的數字生活。
Stability AI 確認參加英國 AI 安全峰會：為開源發聲
Stability AI 宣佈創始人 Emad Mostaque 將出席英國布萊切利園 AI 安全峰會。作為代表性的開源模型廠商，其呼籲政策制定者在整個生態中支援 AI 安全，強調開源能避免技術利益被科技巨頭獨攬並促進創新競爭。
微軟公佈 AI 安全承諾進展：Bing 自動標明 AI 生圖，擴充紅隊
微軟在英國 AI 安全峰會前公佈落實安全承諾的進展。微軟擴充了獨立的 AI 紅隊，並在 Bing Image Creator 中上線溯源技術，自動標註 AI 生成圖片。此外，微軟還將負責任 AI 標準融入開發流程，並出資支援了 125 個安全研究專案。
Google 升級漏洞賞金計劃：給生成式 AI 找茬也能拿獎金
Google 宣佈將生成式 AI 專屬攻擊場景納入其漏洞賞金計劃（VRP），並公佈相應的漏洞提報指南。同時，Google 推出基於 SLSA 與 Sigstore 的模型簽名與驗證原型，以防範資料投毒與模型篡改。這意味著找 AI 越獄和資料偏見漏洞也能換取真金白銀。
英國將建全球首個 AI 安全研究所：拉攏中美共同把關模型風險
Thursday，英國首相 Rishi Sunak 宣佈將建立全球首個 AI 安全研究所，在模型釋出前對其偏見與極端風險進行評估。英國還提議仿照氣候變化專門委員會建立全球專家小組，併力推包括中國在內的多國參與 AI 風險治理。
OpenAI 成立 Preparedness 團隊：專門盯防前沿 AI 的災難性風險
OpenAI 宣佈組建 Preparedness 團隊並啟動安全挑戰賽。該團隊由 Aleksander Madry 領導，主要負責追蹤、評估和防範網路安全、生化威脅及自主複製等極端災難風險，並制定一套風險知情開發政策。
Google 上線圖片核查工具：查首次收錄時間，還能識別 AI 生成
Google 宣佈向全球英語使用者推出「About this image」功能。使用者可以檢視圖片在 Google 搜尋被首次記錄的時間、其他網站的使用上下文以及包含是否為 AI 生成的後設資料。該功能旨在遏制虛假資訊傳播，同時還為核查人員開放了專用 API。
Grammarly 新功能：自動學習你的文風，還能替你仿寫
Grammarly 宣佈將於年底前推出「個性化風格檢測與應用」功能。它能在日常輸入中自動捕捉使用者的寫作語氣與偏好，生成專屬「文風檔案」，並把任何文本一鍵改寫成該風格。該功能首期僅面向商業版訂閱使用者開放。
前沿模型論壇選出首任負責人，四大巨頭掏出超 1000 萬美元做安全
Anthropic、Google、Microsoft 和 OpenAI 宣佈任命 Chris Meserole 為前沿模型論壇首任執行董事，並設立超 1000 萬美元的 AI 安全基金。該基金重點資助獨立研究者研發模型紅隊測試與評估技術，推動建立前沿 AI 的安全共識與行業標準。