OpenAI 考虑放宽限制：正在探讨如何「负责任地」生成成人内容
OpenAI 在一份规范征求意见稿中透露，正探讨如何在 AI 产品中「负责任地」允许生成露骨文本与裸露内容。官方称这是为了满足合理的艺术创作需求，并确保在不违法的前提下给予用户最大控制权。不过外界普遍担忧现有护栏难以防范滥用。
AI安全
查看更新的新闻
OpenAI 开发 Media Manager：创作者可自主决定作品是否喂给 AI
OpenAI 宣布正在开发 Media Manager 工具。该工具允许创作者识别受版权保护的内容，并自主决定是否将其纳入 AI 训练，预计 2025 年推出。最值得关注的是，OpenAI 试图以此建立跨平台版权标准，但目前该工具仍在研发中。
巴菲特警示风险：AI 欺诈将成下一个「终极成长行业」
巴菲特在伯克希尔哈撒韦年度股东大会上直言，如果自己要投资欺诈，AI 催生的骗局将是「有史以来的成长行业」。他点出深度伪造与声音克隆的骗局风险，并将 AI 的失控可能比作释放核武器，坦承精灵出瓶后便很难收回。
微软更新条款：禁止美国警方用 Azure OpenAI 做人脸识别
微软更新 Azure OpenAI Service 服务条款，明确禁止美国警察部门利用该服务进行人脸识别，并禁止全球执法机构在执法记录仪等移动设备上运行实时人脸识别。这次调整划清了生成式 AI 在敏感执法场景中的边界。
ChatGPT 上线记忆功能：向绝大多数 Plus 用户开放，能跨对话记住你
OpenAI 宣布面向除欧洲和韩国外的所有 ChatGPT Plus 用户推出「记忆」（Memory）功能。ChatGPT 现在能记住你在跨对话中提到的细节与偏好，并在更新记忆时提醒你。用户可以在设置中随时查看、删除特定记忆，或者开启临时对话彻底不记录。
传 OpenAI 与 Worldcoin 洽谈合作：Sam Altman 两大公司或将联手
据报道 OpenAI 正与 Sam Altman 联合创立的加密身份项目 Worldcoin 洽谈合作，计划为其提供 AI 解决方案与服务。两家公司此前均面临较重监管压力，这项潜在联手势必招致监管机构对利益冲突与合规性的进一步审视。
Meta 自动化广告工具翻车：千次曝光成本飙升 10 倍，快速烧光预算
据 The Verge 报道，Meta 旗下的 Advantage Plus 自动化广告工具频现故障，两小时内就能烧掉客户 75% 的日预算，千次曝光成本暴涨近 10 倍。不少广告主反映转化收益几乎为零，部分商家已被迫停用该工具，退回人工手动投放时代。
美国土安全部成立 AI 安全委员会：奥特曼、纳德拉与皮查伊入选
周五，美国国土安全部成立人工智能安全与安保委员会，22 名首发成员涵盖 OpenAI、微软及 Alphabet 的 CEO。委员会重点研究保护电网、机场等关键基础设施免遭 AI 威胁。达美航空、军工巨头高管及地方官员也一并加入。
收到侵权警告后，Drake 下架使用 AI Tupac 人声的 Diss 歌曲
Drake 从 X 账号删除了针对 Kendrick Lamar 的 Diss 单曲《Taylor Made》。该曲因使用 AI 模拟已故说唱歌手 Tupac Shakur 的声音，被 Tupac 的遗产律师限期 24 小时内下架否则提告。主流歌手公开玩 AI 仿音踩红线，终于撞上了法律铁板。
马里兰教师用 AI 伪造校长歧视录音被捕：合成声音成报复工具
美国马里兰州一名高中教师被捕，警方指控其利用 AI 克隆校长声音、伪造歧视录音来实施报复。假音频此前导致校长被停职，FBI 取证后证实其为 AI 合成。这是典型的生成式语音陷害与犯罪案件。
Drake 惹上官司：Diss 歌偷用 AI 生成的 Tupac 声音，遗产方通牒下架
已故说唱传奇 Tupac 的遗产管理方要求 Drake 在 24 小时内全网下架新歌《Taylor Made》，否则将提起诉讼。该曲未经许可使用了 AI 生成的 Tupac 和 Snoop Dogg 声音。遗产方直斥这是对其音乐遗产的公然滥用。
OpenAI 联手多家巨头：签署儿童安全设计原则，严打违规生成
OpenAI 宣布联合公益组织 Thorn、Google、微软等科技巨头，共同践行「安全设计」原则。各方将在模型训练、部署和维护全流程中清理儿童性虐待材料，严防生成式 AI 遭恶意滥用，并承诺每年发布进展报告。
Mustafa Suleyman 谈 AI 本质：我们正在创造「新数字物种」
Microsoft AI CEO Mustafa Suleyman 在 TED 演讲中探讨 AI 的本质。他指出业内至今难以准确描述 AI 的发展走向，并提出一个直白的新隐喻：AI 正在演变成一种「新数字物种」，呼吁大众重新审视这一非同寻常的关键时刻。
斯坦福发布第七期 AI 指数报告：跑分逼近人类，研究界急着出新题
斯坦福 HAI 发布第七期《AI 指数报告》，指出 AI 在阅读理解与图像分类等指标早已超越人类，在 MATH 竞赛题的解题率也从 6.9% 飙升至 84.3%。由于旧测试接连被刷爆，学界正加紧设计更难的新基准。不过，模型在幻觉与真实性上依然存在明显短板。
PaintCam 推出安防相机 Eve：用 AI 识别人脸，还能发射彩弹与催泪瓦斯
斯洛文尼亚公司 PaintCam 推出家用安防相机 Eve，搭载计算机视觉识别访客与闯入者，若警告无效可直接发射彩弹或催泪弹反击。最值得关注的是，安防设备从被动监控走向主动开火，但也引发了误伤与法律责任争议。
SAG-AFTRA 联手唱片巨头：用 AI 拟音发歌必须授权并付钱
演员工会 SAG-AFTRA 与华纳音乐、索尼音乐等巨头达成初步协议。使用艺术家声音的数字复刻发布歌曲前，必须获得本人同意并支付报酬，协议还明确「歌手」仅指人类。也就是说，未经授权的 AI 仿音商用被正式叫停。
美国议员提新法案：AI 发布前 30 天须公开训练用版权清单
美国众议员 Adam Schiff 提出新法案，要求 AI 公司在公开发布新生成式系统至少 30 天前，向版权登记官提交训练集中的版权作品清单，否则面临罚款。法案虽未禁止用版权内容训练，但将迫使大模型公司彻底公开向来保密的数据黑箱。
加拿大宣布 24 亿加元 AI 投资：20 亿砸向算力基建
加拿大总理 Justin Trudeau 宣布在 2024 年预算中投入 24 亿加元支持本土 AI 发展。其中 20 亿加元将用于建设算力基础设施与推出主权算力战略，另设 5000 万加元成立加拿大 AI 安全研究所。政府希望借此留住顶尖人才与初创企业。
纽时曝 OpenAI 转录超 100 万小时 YouTube 视频：用来训练 GPT-4
据《纽约时报》报道，OpenAI 为缓解训练数据匮乏，曾利用 Whisper 转录超过 100 万小时的 YouTube 视频用于训练 GPT-4。内部明知存在法律争议，仍认定为合理使用。Google 与 Meta 也被曝面临数据耗尽危机，正处于版权灰色地带。
《The Circle》第六季新花样：Netflix 派 AI 假扮真人同台竞技
Netflix 公布社交真人秀《The Circle》第六季阵容，首次加入名为「Max」的 AI 选手假扮真人参赛。人类选手将与 AI 在封闭社交网络里聊天博弈，争夺 10 万美元大奖。最值得关注的是，AI 能否瞒过所有真人甚至赢走奖金。