眾籌近 6 萬美元后，AI 成人內容社群 Unstable Diffusion 遭封殺
主打 AI 生成成人內容的社群 Unstable Diffusion 近日被 Kickstarter 與 Patreon 雙雙封禁。該專案此前在 Kickstarter 籌集了逾 5.6 萬美元，但因版權爭議引發大量畫師抗議。Kickstarter 隨後明確表態，平臺必須始終站在人類創作者這一邊。
AI安全
檢視更新的新聞
普林斯頓學生開發 GPTZero：專門抓 ChatGPT 代寫的作業
普林斯頓大學學生 Edward Tian 推出檢測工具 GPTZero，能快速辨別文章是否出自 ChatGPT。它通過困惑度和句子變化度來判斷，上線後引來超萬人測試導致伺服器一度被擠爆。開發者正持續更新模型，以降低誤報率並擴充伺服器容量。
「AI 律師」要上庭辯護：DoNotPay 計劃用耳機遠端指導被告
據報道，法律科技初創公司 DoNotPay 計劃在真實的法庭審理中出動 AI。在一場超速罰單申訴中，AI 將通過手機即時監聽庭審過程，並通過耳機告訴被告該對法官說什麼。創始人表示此舉鑽了當地規則漏洞，即便敗訴也會替被告買單。
OpenAI 研發文本水印：只需一段話，就能抓出 ChatGPT 作弊
據報道，OpenAI 正測試一種文本水印方案，通過密碼學函式在生成 token 時植入人眼難察的隱形標記。只要文本達到幾百個 token（約一整段），就能識別是否出自 GPT，即便調整語序或刪減詞彙也難抹除，試圖遏制學術抄襲與虛假宣傳。
AI 能否復刻大師光環？《衛報》探討生成式 AI 對藝術家的衝擊
《衛報》刊發專欄指出，Lensa、Midjourney 等影像生成工具正加速滲透商業領域，直接衝擊插畫師等零工創意群體。儘管有藝術家發起 Spawning 專案爭取「退出訓練集」權利，但如何定義和保護畫風版權仍缺乏法律支撐。
OpenAI 研發文本水印：微調選詞暗藏「指紋」，幾百字就能揪出 AI 作弊
據衛報報道，OpenAI 正在開發文本統計水印技術，用來識別 ChatGPT 生成的內容。該技術通過微調選詞機率植入人類不易察覺的「統計指紋」，幾百個單詞就能判斷是否出自 GPT。此舉旨在遏制學術剽竊和虛假宣傳，已有可用原型但尚未正式上線。
漫畫家 Sarah Andersen 發文：AI 正在秒級收割我的畫風
《Sarah's Scribbles》作者 Sarah Andersen 發文講述自身遭遇。繼作品曾遭惡意篡改後，10 月她發現別人僅用其名字當提示詞，AI 幾秒內就能仿造出她的畫風。她直言這抹去了藝術中凝結的人性，帶來強烈的被侵犯感。
QuickVid 上線：輸入一個詞，自動拼裝出帶旁白配圖的短影片
前 Meta 開發者推出短影片生成工具 QuickVid。使用者只需輸入一個提示詞，它就能呼叫 GPT-3 寫指令碼、DALL-E 2 生圖、Google TTS 配音並拼接背景素材。最值得關注的是，它把零散 AI 串成了短影片流水線，但也引發了垃圾內容氾濫的擔憂。
AI 滲透好萊塢影視製作：能改口型造替身，但也引來授權爭議
CACM 報道了 AI 對好萊塢製片流程的改造。Flawless 的神經網路可修改演員面部配合新錄音，Digital Domain 能用演算法生成替身。這不僅能減少補拍成本，但也引發了關於演員授權與知情同意的倫理擔憂。
斯坦福研究：用 AI 寫程式碼更易留漏洞，開發者還更自信
斯坦福大學研究團隊發現，使用 OpenAI Codex 等 AI 程式碼生成工具的開發者更容易在軟體中引入安全漏洞，且更容易誤以為程式碼安全。研究人員警告 AI 尚無法替代人類，跨領域使用時必須仔細審查輸出。
如何用 ChatGPT 還能做個好人？《紐約時報》盤點使用邊界
《紐約時報》刊文探討如何合乎道德地使用 ChatGPT 等生成式 AI。文章指出，模型本質是文本預測且無法自查真偽，極易引發抄襲、程式碼漏洞及偏見擴散，同時需警惕隱私洩露。使用者應認清其侷限，將 AI 當作提升能力的助手而非替代者。
演算法決策真的沒有偏見嗎？剖析機器學習裡的「可預測噪聲」
Becoming Human 刊文探討演算法決策缺陷。常有人認為 AI 面對相同輸入總會給出確定結果、毫無情緒噪聲，但作者指出，模型訓練起點等隨機因素會固化為「可預測噪聲」，導致多套系統在關鍵決斷上產生毫無意義卻不可逆的系統性分歧。
Kickstarter 關停 Unstable Diffusion 眾籌：涉 AI 成人內容，退還 5.6 萬美元
眾籌平臺 Kickstarter 關停了 AI 成人內容專案 Unstable Diffusion 的籌款活動。該專案原計劃籌資訓練無審查影像模型，已從 867 人處籌得超 5.6 萬美元，款項將全部退還。Kickstarter 表示正重新評估涉及版權與潛在傷害的 AI 專案規則。
斯坦福研究：用 AI 寫程式碼不僅漏洞更多，開發者還迷之自信
斯坦福大學電腦科學家發表研究指出，使用 GitHub Copilot 等 AI 輔助程式設計工具的開發者往往會寫出更多安全漏洞，尤其在字串加密和 SQL 注入場景尤為明顯。更值得警惕的是，使用 AI 助手的開發者往往還會盲目堅信自己的程式碼足夠安全。
AI 科研倫理審查如何推進：學者呼籲跳出傳統框架建立社群協同
多位學者呼籲 AI 社群協同推進科研倫理審查機制。學者指出，傳統的機構審查只關注受試者保護，無法應對演算法濫用和偏見等宏觀社會風險，建議學術會議與期刊探索更多元的事後倫理評估流程。
AI 能獨立搞發明嗎？從 DABUS 專利屢遭駁回看機器創新的邊界
DABUS 系統作為「唯一發明人」申請專利並在全球多國被拒，引發關於 AI 能否搞發明的爭論。技術分析表明，該系統從問題建模、概念篩選到結果解讀都離不開人類介入，充其量只是輔助工具。也就是說，所謂機器自主發明，目前在技術和法律上都站不住腳。
OpenAI 推出 ChatGPT：基於 GPT-3.5，能承認錯誤並拒絕不當請求
OpenAI 推出全新對話 AI 系統 ChatGPT。該系統基於 GPT-3.5 家族開發，結合監督學習與強化學習微調，不僅能回答日常問題，還能承認自身錯誤並拒絕不合適的要求。官方目前開放試用，正通過收集公眾反饋來持續改進模型。