OpenAI 考慮放寬限制：正在探討如何「負責任地」生成成人內容
OpenAI 在一份規範徵求意見稿中透露，正探討如何在 AI 產品中「負責任地」允許生成露骨文本與裸露內容。官方稱這是為了滿足合理的藝術創作需求，並確保在不違法的前提下給予使用者最大控制權。不過外界普遍擔憂現有護欄難以防範濫用。
AI安全
檢視更新的新聞
OpenAI 開發 Media Manager：創作者可自主決定作品是否餵給 AI
OpenAI 宣佈正在開發 Media Manager 工具。該工具允許創作者識別受版權保護的內容，並自主決定是否將其納入 AI 訓練，預計 2025 年推出。最值得關注的是，OpenAI 試圖以此建立跨平臺版權標準，但目前該工具仍在研發中。
巴菲特警示風險：AI 欺詐將成下一個「終極成長行業」
巴菲特在波克夏海瑟威年度股東大會上直言，如果自己要投資欺詐，AI 催生的騙局將是「有史以來的成長行業」。他點出深度偽造與聲音克隆的騙局風險，並將 AI 的失控可能比作釋放核武器，坦承精靈出瓶後便很難收回。
微軟更新條款：禁止美國警方用 Azure OpenAI 做人臉識別
微軟更新 Azure OpenAI Service 服務條款，明確禁止美國警察部門利用該服務進行人臉識別，並禁止全球執法機構在執法記錄儀等移動裝置上執行即時人臉識別。這次調整劃清了生成式 AI 在敏感執法場景中的邊界。
ChatGPT 上線記憶功能：向絕大多數 Plus 使用者開放，能跨對話記住你
OpenAI 宣佈面向除歐洲和韓國外的所有 ChatGPT Plus 使用者推出「記憶」（Memory）功能。ChatGPT 現在能記住你在跨對話中提到的細節與偏好，並在更新記憶時提醒你。使用者可以在設定中隨時檢視、刪除特定記憶，或者開啟臨時對話徹底不記錄。
傳 OpenAI 與 Worldcoin 洽談合作：Sam Altman 兩大公司或將聯手
據報道 OpenAI 正與 Sam Altman 聯合創立的加密身份專案 Worldcoin 洽談合作，計劃為其提供 AI 解決方案與服務。兩家公司此前均面臨較重監管壓力，這項潛在聯手勢必招致監管機構對利益衝突與合規性的進一步審視。
Meta 自動化廣告工具翻車：千次曝光成本飆升 10 倍，快速燒光預算
據 The Verge 報道，Meta 旗下的 Advantage Plus 自動化廣告工具頻現故障，兩小時內就能燒掉客戶 75% 的日預算，千次曝光成本暴漲近 10 倍。不少廣告主反映轉化收益幾乎為零，部分商家已被迫停用該工具，退回人工手動投放時代。
美國土安全部成立 AI 安全委員會：奧特曼、納德拉與皮查伊入選
週五，美國國土安全部成立人工智慧安全與安保委員會，22 名首發成員涵蓋 OpenAI、微軟及 Alphabet 的 CEO。委員會重點研究保護電網、機場等關鍵基礎設施免遭 AI 威脅。達美航空、軍工巨頭高管及地方官員也一併加入。
收到侵權警告後，Drake 下架使用 AI Tupac 人聲的 Diss 歌曲
Drake 從 X 賬號刪除了針對 Kendrick Lamar 的 Diss 單曲《Taylor Made》。該曲因使用 AI 模擬已故說唱歌手 Tupac Shakur 的聲音，被 Tupac 的遺產律師限期 24 小時內下架否則提告。主流歌手公開玩 AI 仿音踩紅線，終於撞上了法律鐵板。
馬里蘭教師用 AI 偽造校長歧視錄音被捕：合成聲音成報復工具
美國馬里蘭州一名高中教師被捕，警方指控其利用 AI 克隆校長聲音、偽造歧視錄音來實施報復。假音訊此前導致校長被停職，FBI 取證後證實其為 AI 合成。這是典型的生成式語音陷害與犯罪案件。
Drake 惹上官司：Diss 歌偷用 AI 生成的 Tupac 聲音，遺產方通牒下架
已故說唱傳奇 Tupac 的遺產管理方要求 Drake 在 24 小時內全網下架新歌《Taylor Made》，否則將提起訴訟。該曲未經許可使用了 AI 生成的 Tupac 和 Snoop Dogg 聲音。遺產方直斥這是對其音樂遺產的公然濫用。
OpenAI 聯手多家巨頭：簽署兒童安全設計原則，嚴打違規生成
OpenAI 宣佈聯合公益組織 Thorn、Google、微軟等科技巨頭，共同踐行「安全設計」原則。各方將在模型訓練、部署和維護全流程中清理兒童性虐待材料，嚴防生成式 AI 遭惡意濫用，並承諾每年釋出進展報告。
Mustafa Suleyman 談 AI 本質：我們正在創造「新數字物種」
Microsoft AI CEO Mustafa Suleyman 在 TED 演講中探討 AI 的本質。他指出業內至今難以準確描述 AI 的發展走向，並提出一個直白的新隱喻：AI 正在演變成一種「新數字物種」，呼籲大眾重新審視這一非同尋常的關鍵時刻。
斯坦福釋出第七期 AI 指數報告：跑分逼近人類，研究界急著出新題
斯坦福 HAI 釋出第七期《AI 指數報告》，指出 AI 在閱讀理解與影像分類等指標早已超越人類，在 MATH 競賽題的解題率也從 6.9% 飆升至 84.3%。由於舊測試接連被刷爆，學界正加緊設計更難的新基準。不過，模型在幻覺與真實性上依然存在明顯短板。
PaintCam 推出安防相機 Eve：用 AI 識別人臉，還能發射彩彈與催淚瓦斯
斯洛維尼亞公司 PaintCam 推出家用安防相機 Eve，搭載計算機視覺識別訪客與闖入者，若警告無效可直接發射彩彈或催淚彈反擊。最值得關注的是，安防裝置從被動監控走向主動開火，但也引發了誤傷與法律責任爭議。
SAG-AFTRA 聯手唱片巨頭：用 AI 擬音發歌必須授權並付錢
演員工會 SAG-AFTRA 與華納音樂、索尼音樂等巨頭達成初步協議。使用藝術家聲音的數字復刻釋出歌曲前，必須獲得本人同意並支付報酬，協議還明確「歌手」僅指人類。也就是說，未經授權的 AI 仿音商用被正式叫停。
美國議員提新法案：AI 釋出前 30 天須公開訓練用版權清單
美國眾議員 Adam Schiff 提出新法案，要求 AI 公司在公開發布新生成式系統至少 30 天前，向版權登記官提交訓練集中的版權作品清單，否則面臨罰款。法案雖未禁止用版權內容訓練，但將迫使大模型公司徹底公開向來保密的資料黑箱。
加拿大宣佈 24 億加元 AI 投資：20 億砸向算力基建
加拿大總理 Justin Trudeau 宣佈在 2024 年預算中投入 24 億加元支援本土 AI 發展。其中 20 億加元將用於建設算力基礎設施與推出主權算力戰略，另設 5000 萬加元成立加拿大 AI 安全研究所。政府希望藉此留住頂尖人才與初創企業。
紐時曝 OpenAI 轉錄超 100 萬小時 YouTube 影片：用來訓練 GPT-4
據《紐約時報》報道，OpenAI 為緩解訓練資料匱乏，曾利用 Whisper 轉錄超過 100 萬小時的 YouTube 影片用於訓練 GPT-4。內部明知存在法律爭議，仍認定為合理使用。Google 與 Meta 也被曝面臨資料耗盡危機，正處於版權灰色地帶。
《The Circle》第六季新花樣：Netflix 派 AI 假扮真人同臺競技
Netflix 公佈社交真人秀《The Circle》第六季陣容，首次加入名為「Max」的 AI 選手假扮真人參賽。人類選手將與 AI 在封閉社交網路裡聊天博弈，爭奪 10 萬美元大獎。最值得關注的是，AI 能否瞞過所有真人甚至贏走獎金。