Geoffrey Hinton：AI 很可能會有情緒，甚至現在可能已經有了
在倫敦國王學院的演講中，Geoffrey Hinton 表示，AI 系統完全可能會具備沮喪或憤怒等情緒，甚至「很可能」現在就已經有了。他透露此前因擔心被當成瘋子而未公開此觀點。不過，大模型究竟是語言機率模擬還是具備真正意識，目前在科學上仍無法驗證。
AI安全
檢視更新的新聞
OpenAI 信任與安全主管離職：ChatGPT 爆火後強度劇增，CTO 暫時代管
OpenAI 信任與安全主管 Dave Willner 宣佈離職轉任顧問，團隊由 CTO Mira Murati 暫時代管。Willner 稱 ChatGPT 推出後工作進入「高強度階段」，為顧及家庭決定退出一線。眼下全球對生成式 AI 監管正全面收緊，OpenAI 正在物色新的技術型負責人。
藝術家訴 AI 侵權案遇挫：美法官稱生成圖缺乏實質相似性
美國地方法官 William Orrick 認定多名藝術家針對 Stability AI、Midjourney 等公司的版權訴訟存在缺陷，傾向於駁回大部分訴求。法官指出 AI 生成影像與藝術家原作缺乏實質性相似，但允許原告補充證據後重新提交訴狀。
Google 簽署負責任 AI 承諾：給生成內容加水印，推進紅隊安全測試
Google 宣佈與其他 AI 企業共同簽署負責任 AI 發展承諾。官方計劃在最新生成模型中引入數字水印與後設資料，並在 Google 搜尋中上線「關於此圖片」工具以追蹤來源；同時將參與下月 DefCon 的紅隊對抗測試。
OpenAI 聯合多家機構落實白宮安全承諾：給前沿 AI 戴上緊箍
OpenAI 與多家頭部機構在白宮協調下達成自願承諾。各方同意對超越現有水平的前沿模型進行內外部紅隊測試、為 AI 生成音影片新增水印，並強化模型權重保護。這套措施旨在正式監管法規出臺前，先行築牢前沿系統的安全防線。
Google 測試 AI 寫作工具 Genesis：可自動寫新聞，已向媒體推介
據《紐約時報》報道，Google 正在測試代號為「Genesis」的 AI 工具，能吸收資訊自動生成新聞稿件，並已向多家主流媒體推介。Google 稱其定位是輔助記者擬定標題與調整文風，絕非替代人工採寫。不過部分媒體高管對此感到不安，擔憂其忽視事實核查。
AI 如何「復活」已故演員：詹姆斯·迪恩再當主角，死後肖像權引爭議
BBC 報道已故影星詹姆斯·迪恩將通過 AI 數字克隆在新片《Back to Eden》中「主演」，與真人演員互動。這項技術結合歷史影像打造可互動化身，不僅引發好萊塢對活人演員被搶飯碗的恐慌，也徹底暴露了死後肖像權管理的法律空白。
超 8500 位作家簽署聯名信：要求 AI 廠商停止盜用圖書並賠償
8500 多名作家簽署聯名信，指責 OpenAI、Meta 等公司未經許可將數百萬版權圖書用於大模型訓練。信中要求廠商獲取授權並提供合理賠償。作家組織表示訴訟耗時昂貴，但低質 AI 內容氾濫已對創作者生計帶來直接衝擊。
Stability AI 釋出 Stable Beluga 2：僅用一成合成資料微調登頂榜首
Stability AI 聯合旗下實驗室釋出指令微調模型 Stable Beluga 1 與 2，分別基於 LLaMA 65B 和 LLaMA 2 70B 打造。團隊參考微軟 Orca 方案，僅用約 60 萬條高質量合成數據完成微調，並在 Hugging Face 開源大模型排行榜奪冠。目前兩款模型已在非商業研究許可下開放權重。
斯坦福與伯克利評估：GPT-4 出現行為漂移，部分數學測試表現下滑
斯坦福與伯克利研究團隊對比了 3 月與 6 月版本的 GPT-3.5 和 GPT-4，發現模型行為出現顯著漂移。其中 GPT-4 在質數識別和程式碼格式上表現明顯下滑，指令遵循能力有所減弱。這一發現印證了使用者對黑盒模型變鈍的懷疑，也暴露出模型持續更新時的不透明問題。
靠分析行車路線抓毒販：AI 道路監控幫紐約警方鎖定嫌疑人
紐約警方藉助 Rekor 的 AI 道路智慧平臺鎖定並逮捕了一名跨州運毒犯。系統分析了 480 個車牌識別攝像頭收集的海量資料，發現嫌疑人頻繁往返特定區域且停留時間極短，直接將日常駕駛軌跡比對升級成了預測性執法。
比爾·蓋茨談 AI 風險：威脅真實存在，但並非不可控
微軟聯合創始人比爾·蓋茨發文表示，AI 帶來的虛假資訊與就業衝擊等風險確實存在，但完全可以被妥善應對。他將 AI 比作當年的汽車普及，認為過渡期出現動盪很正常，歷史經驗證明社會能通過法規與技術手段解決這些挑戰。
Twitch 上的不間斷 AI 辯論：AI 特朗普與 AI 拜登同臺吵架
Twitch 上線名為 trumporbiden2024 的 24 小時 AI 辯論直播，AI 驅動的特朗普與拜登不僅能模仿原聲和神態，還互相人身攻擊並嘲弄彈幕觀眾。這場實驗吸引了超 10 萬人觀看，雖然言論頻頻陷入荒誕失控，但也展示了 AI 擬真模仿的高成熟度。
斯坦福研究警告：AI 檢測器歧視非母語者，超半數託福作文被誤判
斯坦福大學團隊在《Patterns》發表研究，測試 7 款熱門 AI 檢測器發現，超半數非母語者的託福作文被誤判為 AI 生成，其中一款誤判率達 98%。檢測器因詞彙簡單且困惑度低而誤判，這種偏見反而倒逼非母語者用 ChatGPT 潤色自證清白。
知名演員起訴 OpenAI 與 Meta：指控偷用盜版書訓練 AI
據 The Verge 報道，喜劇演員 Sarah Silverman 等三名作家在美國地方法院起訴 OpenAI 與 Meta。原告指控 ChatGPT 和 LLaMA 未經許可抓取「影子圖書館」中的盜版書籍訓練模型，並展示了 ChatGPT 精準總結其原著的證據，索取法定賠償。
首例 AI 換臉詐騙廣告流傳 Facebook：英國理財專家發聲警示
英國理財專家 Martin Lewis 警告，Facebook 上出現利用 AI 深度偽造其形象與聲音的投資詐騙廣告。這是他首次發現自己被捲入此類影片詐騙。Meta 雖稱已下架相關違規內容，但 Lewis 仍嚴厲呼籲監管部門介入施壓。
Shutterstock 推出企業 AI 影像免責保障：出事全額賠償
Shutterstock 宣佈向所有企業客戶提供生成式 AI 影像全額法律免責保障。企業生成的 AI 圖片經平臺人工稽核後，若遇版權或侵權索賠，將享有與普通商業素材同等的法律兜底。此舉緊隨 Adobe 類似政策，旨在消除企業商用生成式 AI 的侵權顧慮。
Google 更新隱私政策：明確用抓取的公開網頁資料訓練 Bard 與 AI 模型
據 The Verge 報道，Google 在更新的隱私政策中明確，將使用從公開網路抓取的資料來訓練 Bard、Cloud AI 等 AI 模型，而非僅用於翻譯。這意味著公開網頁都可能成為其訓練語料，但並未交代如何規避版權爭議。
OpenAI 成立超級對齊團隊：押上 20% 算力，四年內解決失控風險
OpenAI 宣佈成立「超級對齊」團隊，由首席科學家 Ilya Sutskever 和 Jan Leike 共同牽頭。團隊計劃在未來四年投入已掌握算力的 20%，目標是造出人類水平的自動化對齊研究員，用 AI 監督更聰明的 AI。OpenAI 認為超級智慧可能在十年內到來，人類必須趕在失控前找到可擴充套件的控制方案。
OpenAI 緊急下線 ChatGPT 聯網功能：因能繞過付費牆免費看全文
OpenAI 宣佈暫停 ChatGPT 的 Browse with Bing 測試功能。官方發現，如果使用者直接輸入特定網址並索要全文，AI 可能會無意中繞過付費牆直接展示內容。OpenAI 表示此舉是為了尊重內容版權方，修復後會儘快重新上線。