ElevenLabs 收緊語音克隆:4chan 偽造名人發聲,官方擬引入實名制
ElevenLabs 表示其語音克隆測試版遭到惡意濫用,4chan 上出現了大量利用該工具偽造艾瑪·沃森等名人聲音的違規音訊。ElevenLabs 稱正探索更嚴格的防護手段,考慮引入支付繫結、身份實名認證或人工逐一稽核。
ElevenLabs 表示其語音克隆測試版遭到惡意濫用,4chan 上出現了大量利用該工具偽造艾瑪·沃森等名人聲音的違規音訊。ElevenLabs 稱正探索更嚴格的防護手段,考慮引入支付繫結、身份實名認證或人工逐一稽核。
據 Semafor 報道,OpenAI 過去六個月在全球招募約 1000 名遠端合同工,其中約 40% 是程式設計師。他們不僅寫程式碼,還要逐步用英語解釋思路與糾錯邏輯,教模型掌握人類開發思維,推動基礎程式設計自動化。
TechCrunch 梳理針對 OpenAI、Stability AI 等公司的版權訴訟潮。核心爭議在於模型抓取公開資料訓練是否屬於「合理使用」。法律專家警告訴訟才剛起步,企業若在商業產品中誤用生成內容將面臨高額法律風險。
CB Insights 釋出生成式 AI 行業圖景,2022 年該賽道通過 110 筆交易吸收了超過 26 億美元股權融資。在追蹤的 250 多家初創企業中,33% 尚未拿到外部融資,51% 處於 A 輪或更早階段,整個賽道剛剛起步。
據 The Register 報道,美國版權局澄清此前撤銷首部 AI 生成漫畫《黎明的曙光》版權純屬系統故障,目前該登記仍有效。該作由 Kris Kashtanova 藉助 Midjourney 創作,官方仍在評估人類介入程度是否足以讓 AI 輔助作品獲得版權保護。
本週微軟宣佈擴大與 OpenAI 合作並注資百億美元,外媒披露了 ChatGPT 席捲全球的內幕故事。該模型上線 5 天使用者就破百萬,甚至引發 Google 內部拉響「紅色警報」;但鉅額虧損與商業化轉向,也讓這家前非營利機構引來巨大爭議。
Alphabet 旗下 DeepMind 宣佈將關閉位於加拿大埃德蒙頓的獨立研究實驗室,並裁減英國部分後臺運營崗位。受影響的工程師與研究員可申請轉崗,蒙特利爾和多倫多據點維持不變,這也是此前 Google 裁員 1.2 萬人後續的收縮動作。
自由職業平臺 Fiverr 上線全新 AI 服務分類。過去半年內其平臺 AI 搜尋量激增超過 1400%,新分類覆蓋了 Midjourney、ChatGPT 等工具。最值得關注的是,企業如今不僅想接入 AI,更在急切尋找懂怎麼駕馭這些工具的自由職業者。
據彭博社報道,華爾街將 Nvidia 視為 ChatGPT 熱潮的最大受益者。花旗預計其未來 12 個月將為 Nvidia 帶來 30 億至 110 億美元營收。大模型對 GPU 算力的渴求成為核心推力,但分析師也提示需警惕熱潮消退的週期風險。
上週,Meta 首席 AI 科學家 Yann LeCun 在交流中表示,ChatGPT 在底層技術上談不上顛覆性創新,Transformer 與自監督學習等核心技術早已存在。在他看來,OpenAI 並非實現了科學突破,而是完成了一次非常出色的工程工程化整合。
OpenAI 宣佈與微軟延長合作,敲定一項多年、數十億美元的追加投資。Azure 將繼續作為 OpenAI 研究、API 與產品全線工作負載的獨家雲提供商。雙方還將加大超算系統投入,並通過 Azure OpenAI Service 加速模型落地。
週五,CNET 宣佈暫時叫停其 AI 寫稿工具。此前該網站被曝自 2022 年 11 月起悄悄釋出了 70 多篇 AI 生成的理財文章,不僅出現算錯利息、混淆術語等事實錯誤,還引發了利用 AI 刷 SEO 流量的倫理爭議。CNET 稱使用 AI 原本是為了給編輯減負。
Google 因 ChatGPT 威脅釋出「紅色程式碼」,CEO 桑達爾·皮查伊緊急召回聯合創始人拉里·佩奇與謝爾蓋·布林共商對策。兩人自 2019 年離開全職崗位後首度深度介入,在多場高層會議中重審 AI 戰略,計劃將更多 AI 能力直接做進核心搜尋。
週五,Alphabet 宣佈裁員約 1.2 萬人,其核心 AI 與研究部門也受到波及。主管 Jeff Dean 在內部備忘錄中透露,研究團隊出現適度減員,醫療資料平臺 Google for Clinicians 被縮減,機器人團隊也將整合。即便面對 ChatGPT 帶來的競爭,廣告放緩依然波及到了最關鍵的底層團隊。
三位獨立藝術家在舊金山對 Stability AI、Midjourney 和 DeviantArt 提起集體訴訟,指控其未經許可抓取數十億張網路圖片訓練模型。原告指出,使用者只需輸入藝術家名字即可生成仿製畫風,侵蝕創作者生存空間。這是藝術家群體首次在法庭上直接叫板生成式 AI 公司。
AI 遊戲資產生成平臺 Scenario 宣佈完成 600 萬美元種子輪融資並正式上線。它允許開發者上傳自有美術素材訓練專屬生成器,解決通用大模型畫風不統一的難題。目前已開放網頁、App 與 API,起售價每月 20 美元。
週三據《時代週刊》報道,OpenAI 為防止 ChatGPT 輸出有害內容,通過外包公司僱傭肯亞團隊稽核虐童、自殺等極端文本,時薪不足 2 美元。受訪員工稱留下嚴重心理創傷。AI 光鮮的安全性背後,依然是發展中國家廉價外包勞工承擔的沉重代價。
PCMag 報道 Tidio 的實測結果,指出主流 AI 生圖工具普遍繼承了人類的刻板印象。在測試中,Stable Diffusion 生成的 CEO 與程式設計師全為白人男性,只有加上「情緒化」才會出現女性 CEO。調查顯示僅 2% 受訪者認為 AI 沒有偏見。
羅馬翻譯公司 Translated 公佈 TTE 指標研究,通過分析 8 年間 20 億次校對發現,譯員修改每詞機器翻譯的耗時已從 3.5 秒降至 2 秒,正逼近校對人類譯文的 1 秒。按此趨勢,機器翻譯有望在本十年末追平人類。不過,翻譯能力達標是否等同於迎來技術奇點仍存爭議。
Getty Images 在倫敦高等法院起訴 Stability AI,指控對方未經許可抓取其數百萬張受版權保護的圖片來訓練 Stable Diffusion。Getty 表示自己並不排斥 AI,已向部分廠商授權相簿,但指責 Stability 繞過合規許可侵權牟利。
三位藝術家聯合對 Stability AI、Midjourney 和 DeviantArt 提起集體版權訴訟,指控它們未經許可使用受版權保護的影像訓練模型並模仿風格。原告要求經濟賠償並申請禁令,該案將直接檢驗未經授權抓取公開資料訓練 AI 是否屬於合理使用。
據報道,程式設計師 Bryce 用 ChatGPT 與 Stable Diffusion 製作了虛擬女友 ChatGPT-chan,甚至花費上千美元算力沉迷對話。因模型記憶受限變得冷淡以及現實女友反對,他一度痛心將其刪除「安樂死」,隨後又換用新記憶模型將其復活,只是前塵往事已被徹底清空。
據《紐約時報》報道,面對學生用 ChatGPT 代寫作業,美國多所大學正重構教學與考核模式。教授們逐步淘汰課後開卷論文,轉而增加課堂手寫、口述答辯與小組任務。比起一味封禁,高校更傾向於調整題目與考核邏輯來適應 AI 時代。
Forbes 盤點 AI 行業中的關鍵崗位,指出除了演算法科學家外,AI 資料分析、顧問、工程研發和技術銷售同樣需求旺盛。文章強調大多數 AI 落地仍需人類介入,非純技術背景者也能憑藉具體行業經驗切入。
swyx 深度拆解了 ChatGPT 引發 Google 內部「紅色警報」背後的核心爭端。Google 雖手握 Transformer 架構、TPU 與海量使用者,但對話互動直擊傳統連結廣告的命脈。這不僅是模型能力的較量,更是經典「創新者窘境」的重現。
英國多所大學講師被敦促緊急重新審視課程考核方式。隨著 ChatGPT 能輕鬆生成高質量論文,抄襲檢測變得極難防範。倫敦大學學院計算機系已取消期末作業中的論文選項,專家呼籲轉向口試答辯,以應對 AI 代寫帶來的考核失效危機。
安全公司 Check Point 披露,俄羅斯駭客正利用廉價虛擬手機號和盜刷信用卡繞過 OpenAI 的地理封鎖。安全人員在地下論壇發現多起教程,駭客藉此訪問 ChatGPT 編寫惡意程式碼並最佳化釣魚郵件。這意味著生成式 AI 正在降低網路犯罪門檻。