紐約律師用 ChatGPT 編造判例被抓包:不僅全屬虛構,還截圖當證據提交
紐約一名律師在訴訟中藉助 ChatGPT 查詢判例,因大模型嚴重幻覺引用了 6 起憑空捏造的案件。在法官要求提供判決書時,他竟再次用 ChatGPT 編造全文並截圖提交。目前聯邦法官已下達命令,涉事律師面臨違規制裁聽證。
紐約一名律師在訴訟中藉助 ChatGPT 查詢判例,因大模型嚴重幻覺引用了 6 起憑空捏造的案件。在法官要求提供判決書時,他竟再次用 ChatGPT 編造全文並截圖提交。目前聯邦法官已下達命令,涉事律師面臨違規制裁聽證。
Nvidia 股價飆升 27%,創下美股單日市值增長超 2000 億美元的新紀錄。最誇張的是指引:官方預計第二季度營收將達 110 億美元,直接把華爾街預期的 72 億甩在身後。黃仁勳表示,生成式 AI 正在引爆全球資料中心向加速計算升級,這場重構才剛剛起步。
OpenAI 宣佈設立資助計劃,發放 10 個 10 萬美元資助金,支援團隊實驗如何通過民主程式決定 AI 應遵守的規則。獲選團隊需在 10 月 20 日前交付包含至少 500 名參與者的實驗原型與公開報告,成果全部開源。OpenAI 希望藉此探索由公眾廣泛參與的治理機制。
OpenAI CEO Sam Altman 週三在倫敦表示,若無法滿足歐盟《人工智慧法案》的要求,公司可能會停止在歐盟運營。他質疑將 ChatGPT 等大模型列為「高風險」的做法,強調會盡力配合但存在技術極限。
皮尤研究中心公佈 3 月針對 10701 名美國成年人的調查。結果顯示,58% 的受訪者聽說過 ChatGPT,但僅有 14% 親自用它娛樂、學習或辦公。高學歷與年輕群體知曉度更高,嚐鮮者多數認為它有用。
據外媒報道,Spotify 正在研發一項 AI 技術,計劃克隆播客主播聲音來自動生成口播廣告。主播無需親自錄音,即可針對不同地區受眾定製廣告乃至多語種版本。Spotify 方面回應稱正探索相關應用,但目前尚無正式訊息公佈。
微軟在 Build 大會上宣佈採用 OpenAI 外掛標準,開發者寫一套外掛即可打通 ChatGPT 與 Copilot 全系產品。同時 Bing 成為 ChatGPT 預設搜尋,Azure 上線 AI Studio 與安全工具。這意味著跨生態開發和應用落地的門檻被大幅拉低。
Anthropic 宣佈完成 4.5 億美元 C 輪融資,由 Spark Capital 領投,Google、Salesforce 及 Zoom 參投。這筆資金將用於研發下一代 AI 演算法與推進「憲政 AI」安全對齊技術。其累計融資已達 14.5 億美元,正在加速追趕 OpenAI。
上週,OpenAI 推出 ChatGPT 官方 iPhone 應用,迅速登頂免費榜。由於應用內每月 20 美元的 ChatGPT Plus 走的是蘋果內購通道,蘋果照例抽取 30% 分成。分析師認為,即便蘋果在生成式 AI 研發上動作稍慢,也能借應用商店分成每年躺賺數億美元。
OpenAI 呼籲各界提前治理「超級智慧」,提出建立類似國際原子能機構(IAEA)的國際監管機構,對高算力前沿模型進行審計與合規檢查;同時建議豁免低於門檻的開源與普通模型,避免阻礙技術創新。
據《華爾街日報》等報道,Apple 已限制員工使用 ChatGPT 及 GitHub Copilot 等外部 AI 工具,擔心機密資料洩露或被用於模型訓練。OpenAI 預設儲存對話,即使關閉歷史記錄也會保留 30 天。此前摩根大通、亞馬遜也出臺了類似禁令。
週四,Meta 釋出首款專為 AI 打造的自研晶片 MTIA。該晶片自 2020 年啟動研發,採用 8×8 陣列架構並深度繫結 PyTorch,專攻深度學習推薦系統,每瓦能效最高達 GPU 的三倍。不過面對更復雜的神經網路時它仍遜於 GPU。
英國電信巨頭 BT 宣佈計劃到 2030 年裁員最多 5.5 萬人,佔當前 13 萬員工總數的 40% 以上。其中最多五分之一的崗位將被 AI 等新技術取代,主要集中在客服領域。CEO 表示光纖網路完工以及生成式 AI 落地讓公司能大幅縮減人力。
據外媒報道內部檔案顯示,Google 計劃利用新推出的 PaLM 2 大模型改造廣告業務與 YouTube。廣告主能借此自動生成廣告素材,創作者也能獲得影片選題靈感和標題推薦。在廣告營收增長放緩的背景下,Google 試圖用生成式 AI 盤活核心收入盤子。
據報道,德州農工大學商業分校一名教授將學生論文貼進 ChatGPT 查重,因 AI 瞎認文章由其生成而給過半學生判了零分,導致畢業證一度被扣。問題是 ChatGPT 根本不具備檢測 AI 生成的能力。校方隨後介入調查,確認並無學生因此掛科或被扣留文憑。
開發者在 Hacker News 透露收到代表 OpenAI 的維權信,要求下架包含「GPT」字樣的域名。郵件指出直接在產品名或域名中使用 GPT 會引起使用者混淆並涉嫌侵權,即使該域名還是個空白頁面。開發者只能在介紹中寫「Powered by」,不能把模型名塞進名字裡。
OpenAI CEO Sam Altman 在美國參議院聽證會上呼籲加強 AI 監管。他建議政府對高複雜度模型實施許可或註冊制,並要求上線前進行內外部安全測試。這一表態被視為科技巨頭主動介入規則制定的關鍵一步。
微軟 CEO 納德拉否認了馬斯克關於微軟實際控制 OpenAI 的說法。他表示微軟只持有非控股權益與商業合作關係,OpenAI 始終由非營利董事會掌控;同時小公司依然有機會與巨頭競爭,AI 不會只是微軟和 Google 的雙雄爭霸。
Elon Musk 在接受 CNBC 採訪時稱,自己是「OpenAI 存在的原因」。他表示自己當年為公司起了名字、招募了核心人才,並投入了約 5000 萬美元。Musk 批評當前 OpenAI 不夠重視安全且受微軟控制,但微軟對此予以堅決否認。
OpenAI CEO Sam Altman 首次出席美國參議院聽證會,呼籲政府對前沿 AI 建立監管框架與許可制度。兩黨議員強調不能重蹈社交媒體監管失控的覆轍,並稱贊 Altman 展現出的合作意願與以往科技巨頭截然不同。
Google 宣佈與 Taito 合作開發 AR 手遊《SPACE INVADERS: World Defense》。遊戲依託 ARCore 與地理空間技術,能結合真實街道、地標與天氣生成 3D 戰場,把城市變成打外星人的遊樂場。
快餐連鎖品牌 Wendy's 宣佈與 Google 合作推出 Wendy's FreshAI。該系統基於 Google 大模型定製,能聽懂「JBC」等選單黑話,計劃 6 月在俄亥俄州哥倫布市的汽車餐廳實測,現場仍有員工監督。
據報道,Spotify 下架了 AI 音樂公司 Boomy 製作的數萬首歌曲,佔其生成曲庫的 7%。起因是環球音樂警告有人利用機器人刷播放量來薅走流媒體版稅。Spotify 隨後證實已介入處理並扣留版稅,以保護正常創作者的收益。
Google 聯合人工耳蝸廠商 Cochlear 等機構,研發基於 AI 的個性化助聽技術。該專案通過 AI 識別並分離特定聲源,幫助聽障人群在餐館或公共交通等嘈雜環境下聽清對話,目前正處於聯合研發階段。
週一,圖靈獎得主 Geoffrey Hinton 警告稱,AI 對人類的威脅可能比氣候變化更緊迫。他指出氣候變化至少有明確應對方案,但人類應對 AI 風險目前毫無頭緒。雖然他認為呼籲暫停研發不現實,但強調必須立刻投入資源尋找對策。
Warren Buffett 在波克夏海瑟威股東大會上將 AI 的興起比作當年發明原子彈。他表示在 Bill Gates 演示 ChatGPT 後見識了其強大能力,但更擔心這種技術一旦被髮明就無法逆轉,最終會改變除人類思考方式外的一切。
據華爾街日報報道,Google 正在開發代號為「Project Magi」的新搜尋功能,試圖擺脫傳統的 10 個藍色連結,加入 AI 對話與更多社交短影片內容。面對 ChatGPT 與 TikTok 的夾擊,新版搜尋重點解決那些「沒有標準答案」的生活類查詢,計劃 5 月起率先向 100 萬美國使用者測試。