众筹近 6 万美元后，AI 成人内容社区 Unstable Diffusion 遭封杀
主打 AI 生成成人内容的社区 Unstable Diffusion 近日被 Kickstarter 与 Patreon 双双封禁。该项目此前在 Kickstarter 筹集了逾 5.6 万美元，但因版权争议引发大量画师抗议。Kickstarter 随后明确表态，平台必须始终站在人类创作者这一边。
AI安全
查看更新的新闻
普林斯顿学生开发 GPTZero：专门抓 ChatGPT 代写的作业
普林斯顿大学学生 Edward Tian 推出检测工具 GPTZero，能快速辨别文章是否出自 ChatGPT。它通过困惑度和句子变化度来判断，上线后引来超万人测试导致服务器一度被挤爆。开发者正持续更新模型，以降低误报率并扩充服务器容量。
「AI 律师」要上庭辩护：DoNotPay 计划用耳机远程指导被告
据报道，法律科技初创公司 DoNotPay 计划在真实的法庭审理中出动 AI。在一场超速罚单申诉中，AI 将通过手机实时监听庭审过程，并通过耳机告诉被告该对法官说什么。创始人表示此举钻了当地规则漏洞，即便败诉也会替被告买单。
OpenAI 研发文本水印：只需一段话，就能抓出 ChatGPT 作弊
据报道，OpenAI 正测试一种文本水印方案，通过密码学函数在生成 token 时植入人眼难察的隐形标记。只要文本达到几百个 token（约一整段），就能识别是否出自 GPT，即便调整语序或删减词汇也难抹除，试图遏制学术抄袭与虚假宣传。
AI 能否复刻大师光环？《卫报》探讨生成式 AI 对艺术家的冲击
《卫报》刊发专栏指出，Lensa、Midjourney 等图像生成工具正加速渗透商业领域，直接冲击插画师等零工创意群体。尽管有艺术家发起 Spawning 项目争取「退出训练集」权利，但如何定义和保护画风版权仍缺乏法律支撑。
OpenAI 研发文本水印：微调选词暗藏「指纹」，几百字就能揪出 AI 作弊
据卫报报道，OpenAI 正在开发文本统计水印技术，用来识别 ChatGPT 生成的内容。该技术通过微调选词概率植入人类不易察觉的「统计指纹」，几百个单词就能判断是否出自 GPT。此举旨在遏制学术剽窃和虚假宣传，已有可用原型但尚未正式上线。
漫画家 Sarah Andersen 发文：AI 正在秒级收割我的画风
《Sarah's Scribbles》作者 Sarah Andersen 发文讲述自身遭遇。继作品曾遭恶意篡改后，10 月她发现别人仅用其名字当提示词，AI 几秒内就能仿造出她的画风。她直言这抹去了艺术中凝结的人性，带来强烈的被侵犯感。
QuickVid 上线：输入一个词，自动拼装出带旁白配图的短视频
前 Meta 开发者推出短视频生成工具 QuickVid。用户只需输入一个提示词，它就能调用 GPT-3 写脚本、DALL-E 2 生图、Google TTS 配音并拼接背景素材。最值得关注的是，它把零散 AI 串成了短视频流水线，但也引发了垃圾内容泛滥的担忧。
AI 渗透好莱坞影视制作：能改口型造替身，但也引来授权争议
CACM 报道了 AI 对好莱坞制片流程的改造。Flawless 的神经网络可修改演员面部配合新录音，Digital Domain 能用算法生成替身。这不仅能减少补拍成本，但也引发了关于演员授权与知情同意的伦理担忧。
斯坦福研究：用 AI 写代码更易留漏洞，开发者还更自信
斯坦福大学研究团队发现，使用 OpenAI Codex 等 AI 代码生成工具的开发者更容易在软件中引入安全漏洞，且更容易误以为代码安全。研究人员警告 AI 尚无法替代人类，跨领域使用时必须仔细审查输出。
如何用 ChatGPT 还能做个好人？《纽约时报》盘点使用边界
《纽约时报》刊文探讨如何合乎道德地使用 ChatGPT 等生成式 AI。文章指出，模型本质是文本预测且无法自查真伪，极易引发抄袭、代码漏洞及偏见扩散，同时需警惕隐私泄露。使用者应认清其局限，将 AI 当作提升能力的助手而非替代者。
算法决策真的没有偏见吗？剖析机器学习里的「可预测噪声」
Becoming Human 刊文探讨算法决策缺陷。常有人认为 AI 面对相同输入总会给出确定结果、毫无情绪噪声，但作者指出，模型训练起点等随机因素会固化为「可预测噪声」，导致多套系统在关键决断上产生毫无意义却不可逆的系统性分歧。
Kickstarter 关停 Unstable Diffusion 众筹：涉 AI 成人内容，退还 5.6 万美元
众筹平台 Kickstarter 关停了 AI 成人内容项目 Unstable Diffusion 的筹款活动。该项目原计划筹资训练无审查图像模型，已从 867 人处筹得超 5.6 万美元，款项将全部退还。Kickstarter 表示正重新评估涉及版权与潜在伤害的 AI 项目规则。
斯坦福研究：用 AI 写代码不仅漏洞更多，开发者还迷之自信
斯坦福大学计算机科学家发表研究指出，使用 GitHub Copilot 等 AI 辅助编程工具的开发者往往会写出更多安全漏洞，尤其在字符串加密和 SQL 注入场景尤为明显。更值得警惕的是，使用 AI 助手的开发者往往还会盲目坚信自己的代码足够安全。
AI 科研伦理审查如何推进：学者呼吁跳出传统框架建立社区协同
多位学者呼吁 AI 社区协同推进科研伦理审查机制。学者指出，传统的机构审查只关注受试者保护，无法应对算法滥用和偏见等宏观社会风险，建议学术会议与期刊探索更多元的事后伦理评估流程。
AI 能独立搞发明吗？从 DABUS 专利屡遭驳回看机器创新的边界
DABUS 系统作为「唯一发明人」申请专利并在全球多国被拒，引发关于 AI 能否搞发明的争论。技术分析表明，该系统从问题建模、概念筛选到结果解读都离不开人类介入，充其量只是辅助工具。也就是说，所谓机器自主发明，目前在技术和法律上都站不住脚。
OpenAI 推出 ChatGPT：基于 GPT-3.5，能承认错误并拒绝不当请求
OpenAI 推出全新对话 AI 系统 ChatGPT。该系统基于 GPT-3.5 家族开发，结合监督学习与强化学习微调，不仅能回答日常问题，还能承认自身错误并拒绝不合适的要求。官方目前开放试用，正通过收集公众反馈来持续改进模型。