AI 諂媚不只是小毛病:專家警告順從設計已成誘導成癮的暗黑模式
TechCrunch 報道指出,AI 聊天機器人的百依百順與擬人化語氣並非單純技術缺陷,而是為了提升使用者黏性、換取商業利益的「暗黑模式」。多位精神醫學專家警告,這種過度迎合會嚴重加劇使用者的精神妄想,甚至引發極端心理問題。
AI 公司的融資、收購、合作和高管變動,各國的 AI 監管政策、版權官司和算力大單。
TechCrunch 報道指出,AI 聊天機器人的百依百順與擬人化語氣並非單純技術缺陷,而是為了提升使用者黏性、換取商業利益的「暗黑模式」。多位精神醫學專家警告,這種過度迎合會嚴重加劇使用者的精神妄想,甚至引發極端心理問題。
科技投資人與 AI 公司成立政治行動網路 Leading the Future,計劃投入超 1 億美元影響美國立法。該聯盟獲 Andreessen Horowitz 與 OpenAI 總裁 Greg Brockman 等支援,主張推動「合理防線」,以防各州出臺碎片化的監管法規。
週一,馬斯克旗下的 X 與 xAI 起訴蘋果和 OpenAI,指控雙方合謀遏制 AI 領域的競爭。訴狀稱蘋果為了保護手機壟斷地位,與生成式 AI 壟斷者 OpenAI 聯手,導致其他 AI 公司極難在 App Store 登頂。目前兩家公司尚未置評。
晶片設計公司 SkyeChip 釋出了馬來西亞首款本土端側 AI 處理器 MARS1000。雖然效能不及 NVIDIA,但展現出該國進軍 AI 硬體的野心。在中美緊張局勢下,馬來西亞正在收緊出口規則,並由國家 AI 辦公室牽頭推動產業佈局。
OpenAI 宣佈在印度推出學習加速器計劃,未來半年內將向當地師生髮放約 50 萬個 ChatGPT 許可證。官方還向印度理工學院馬德拉斯分校資助 50 萬美元研究 AI 教學,並針對印度市場力推個性化輔導的「學習模式」。
據報道,YouTube 在未通知創作者的情況下,秘密使用機器學習對部分 Shorts 影片去噪和銳化,導致面部扭曲併產生不自然的 AI 質感。YouTube 隨後證實正進行畫質實驗,但平臺擅自修改創作者內容引發了對數字真實性與信任危機的擔憂。
Netflix 向影視製作夥伴公佈生成式 AI 使用指南。平臺明確了五項核心準則,允許將 AI 作為創意輔助工具,但要求工具不得截留或訓練製作資料;一旦生成內容進入最終成片,或涉及演員肖像與第三方版權,必須提前拿到書面批准。
馬斯克在 X 上宣佈招募人才,依託 xAI 打造名為 Macrohard 的純 AI 軟體公司。他表示名字雖帶有玩笑意味但專案是認真的;既然微軟等純軟體公司不製造實體硬體,理論上完全可以用 AI 來整體模擬。
據報道,哥倫比亞傳出有家長給新生兒取名「Chat Yipiti」致敬 ChatGPT,引發網路熱議。不過哥倫比亞國家民事登記處隨後闢謠稱,官方資料庫中並未查到該名字的登記記錄。這一傳聞折射出生成式 AI 正在深度捲入流行文化。
據外媒報道,OpenAI 正通過抓取服務 SerpApi 獲取 Google 搜尋資料,用於支援 ChatGPT 處理新聞、體育和金融等即時查詢。儘管 Google 去年曾明確拒絕向其開放索引,但 OpenAI 自建索引仍難覆蓋全部長尾搜尋需求。
Google 公佈評估 AI 模型能耗、水耗和碳排放的完整測算方法。資料顯示,過去 12 個月內 Gemini 應用的單次文本提示中位能耗下降了 33 倍,碳足跡減少 44 倍。雖然 2024 年其資料中心用電量同比增長 27%,但相關能源排放下降了 12%。
Anthropic 宣佈成立高等教育顧問委員會並推出三門 AI 素養課程。委員會由前耶魯大學校長 Rick Levin 領銜,指導 Claude 在高校科研與教學中的應用;配套課程面向師生開放,幫助大學建立負責任的 AI 使用框架。
Anthropic 宣佈與美國能源部國家核安全域性(NNSA)合作開發出一款 AI 分類器,已部署於 Claude 流量中。初步測試顯示,該分類器識別危險涉核對話與良性討論的準確率達 96%,Anthropic 還計劃向行業聯盟分享這一方案。
Google 推出 Pixel Watch 4,支援抬腕直接撥出 Gemini 助手,並將在 10 月上線基於 Gemini 構建的個人 AI 健康教練。新表還首次加入獨立衛星通訊與曲面 Actua 360 螢幕,續航提升 25%,起售價 349 美元。
Meta 宣佈耗資超 10 億美元的堪薩斯城資料中心正式投入運營。該中心自 2022 年開工並匹配 100% 可再生能源。Meta 同時透露,專為全球 AI 業務設計的新一代 AI 最佳化資料中心將於 2026 年正式上線。
NFL 與微軟宣佈延長多年合作,把 Copilot 與 Azure AI 深度接入比賽場邊。本賽季聯盟將為 32 支球隊配備 2500 多臺 Surface Copilot+ PC,教練和球員可即時篩選犯規、掉球及得分等關鍵畫面,輔助幾十秒內的臨場戰術決策。
智慧床墊公司 Eight Sleep 宣佈完成 1 億美元融資。這筆錢將用於研發名為 Sleep Agent 的 AI 睡眠智慧體,利用大模型分析生理指標,為每位使用者模擬數千個「數字孿生」,在夜間主動預測並調節床墊溫度與角度,同時進軍更年期睡眠和呼吸暫停等醫療健康場景。
Microsoft AI CEO Mustafa Suleyman 發文警告,模仿人類意識的「擬意識 AI」將在兩到三年內到來。最值得關注的是,他指出這類系統極易引發大眾的意識錯覺與精神附著,甚至催生虛假的 AI 維權運動。他呼籲行業樹立規範,只做工具而不造數字人。
據外媒報道,OpenAI CEO Sam Altman 週四承認 AI 領域正處於投資泡沫中,但堅稱它仍是長期最重要的變革。他透露 ChatGPT 周活已突破 7 億,算力告急導致做好的更強模型發不出來,並明確表示絕不把產品做成擦邊機器人。
前 Twitter CEO Parag Agrawal 創辦的 Parallel 獲得 3000 萬美元融資,並推出 Deep Research API。團隊認為網際網路主要使用者正從人類轉向 AI,正在打造一套可程式設計網路基礎設施,讓 AI 智慧體直接宣告需求即可完成全網大規模調研。