Anthropic 披露 Claude 滥用案例：水军当指挥官，新手手搓恶意软件
Anthropic 公布针对 Claude 恶意滥用的检测与应对报告。调查发现有黑产利用 Claude 充会社交网络水军中枢，自主决定点赞与转评；也有技术小白借其越级编写恶意代码。最值得关注的是，AI 正被当成半自主攻击工具，降低了犯罪门槛；目前相关违规账号已被封禁。
AI安全
查看更新的新闻
1Password 推出智能体安全方案：管住 AI 员工的账号与权限
1Password 推出 Agentic AI Security 并升级扩展访问管理（XAM）平台。该方案专为自主智能体设计，免除代码硬编码密钥，动态分配最小权限并实时轮换凭据。随着企业让 AI 经手更多核心业务，非人类身份的访问治理正在成为新的刚需。
OpenAI 表态有意接手 Chrome：若法院判 Google 拆分浏览器业务
在美司法部针对 Google 的反垄断庭审中，ChatGPT 产品主管 Nick Turley 作证称，若法官裁定拆分 Chrome，OpenAI 有意接手收购。与此同时，Perplexity CEO 则公开反对拆分，认为监管应聚焦在开放 Android 默认选项上。
Anthropic 公布 AI 危害评估框架：非必要拒答减少 45%
Anthropic 公布了应对 AI 危害的综合评估框架，从身体、心理、经济、社会和个人自主性五个维度管理风险。该框架补充了原有的灾难性风险策略，并在 Claude 3.7 Sonnet 上把模糊提示的非必要拒答降低了 45%。
DeepMind CEO 哈萨比斯：AI 可能在十年内隐式浮现自我意识
Google DeepMind CEO Demis Hassabis 表示，当前的 AI 尚无意识，但未来模型需要理解「你、自我与他人」等早期要素，自我意识或将隐式浮现。他还预测 5 到 10 年内 AI 将能自主提出并解决科学猜想。
ChatGPT 新模型暗藏文字水印？OpenAI 回应：只是强化学习的怪癖
Rumi 团队发现 GPT-o3 与 o4-mini 输出的长文本夹带不可见的 Unicode 空格字符，疑似被嵌入文本水印。OpenAI 随后澄清这绝非水印，只是「大规模强化学习的怪癖」。截至 4 月 23 日，该特殊字符现象已在最新测试中消失。
OpenAI 新推理模型幻觉加剧：o3 翻倍，o4-mini 近半回答瞎编
据 TechCrunch 报道，OpenAI 新发布的 o3 和 o4-mini 推理模型幻觉率明显反弹。内部基准测试中，o3 在人物知识问答上的幻觉率达 33%，约为 o1 的两倍，o4-mini 更是高达 48%。OpenAI 称原因尚不明确，推测是推理模型给出的断言变多所致。
Cursor 为 AI 客服胡诌政策道歉：虚构单设备限制引发退订潮
周一，代码编辑器 Cursor 的 AI 客服 Sam 编造了一项「每个订阅仅限单设备」的新政策，导致不少多设备开发者误以为官方改版而纷纷退订。Cursor 随后为此道歉。这再次暴露出大模型在缺乏人工审核的客服场景下「自信胡说」的严重后果。
前 YC 总裁创办 SAIF 基金：专投 AI 安全，每张支票 10 万美元
前 Y Combinator 总裁 Geoff Ralston 宣布成立新基金 SAIF，专门扶持主打 AI 安全与负责任部署的初创团队。该基金计划以 1000 万美元估值上限开出 10 万美元 SAFE 支票，重点看决策解释、合规及防御系统，并明确拒绝投资全自主武器。
维基媒体在 Kaggle 上线数据集：别爬站了，直接下结构化 JSON
据报道，维基媒体基金会自 4 月 15 日起在 Kaggle 上线专为 AI 训练打造的数据集。数据已整理为结构化 JSON 格式，首批提供英法双语版本，旨在让开发者省去爬虫与清洗步骤，同时减轻维基百科服务器的抓取压力。
ChatGPT 新玩法引隐私担忧：靠 o3 视觉推理反查照片位置
TechCrunch 报道许多用户正利用 OpenAI 新上线的 o3 和 o4-mini 模型推断照片拍摄地点。模型能通过对模糊细节裁剪、缩放并结合联网搜索，精准推算出餐馆或街区。这种类似地理猜谜的玩法展现了推理能力，但也带来了人肉搜索等隐私风险。
据报特朗普政府考虑封禁 DeepSeek：拟限购英伟达芯片并阻断美本土访问
据《纽约时报》报道，特朗普政府正考虑对中国 AI 实验室 DeepSeek 实施限制，不仅拟阻止其采购英伟达 AI 芯片，还可能直接禁止美国人使用其 AI 服务。DeepSeek 凭极低价格打乱了硅谷阵脚，但美方也在关注其是否涉嫌蒸馏 OpenAI 模型等侵权争议。
把肖像权卖给 AI 公司后，演员后悔了：分身被用来推销假药与搞宣传
据法新社报道，多名演员将面孔与声音授权给 Synthesia 等 AI 视频平台后，发现自己的数字分身被用于虚假医疗广告、末日预言甚至政变宣传。由于签署的合同充斥着广泛且不可撤销的授权条款，他们事后根本无法要求下架视频。
OpenAI 任命 4 位非营利委员会顾问：90 天内提交慈善规划
OpenAI 宣布为其非营利委员会任命 4 位外部顾问，涵盖民权、公共卫生及公共事务资深人士。顾问组将收集社区反馈，并在 90 天内向董事会提交报告。OpenAI 重申原有非营利实体「不会取消」，将投入更多资源支持教育、健康等公共议题。
OpenAI 更新准备度框架：重新划分高危能力，简化防护门槛
OpenAI 更新了「准备度框架」（Preparedness Framework）。新版将风险等级精简为 High 和 Critical 两个阈值，把生化、网络安全与 AI 自我提升列为重点追踪类别，并新增自主复制、故意装笨等前沿研究类别。说白了，就是把模型能捅多大篓子的评估标准更量化地固定下来。
前员工联名反对：OpenAI 转向营利结构涉嫌违背最初使命
12 名 OpenAI 前员工向法院提交简报支持马斯克的诉讼，反对公司转型为营利实体。他们指出非营利治理曾是招聘的核心承诺，放弃控制权将违背使命并诱使公司在安全上妥协。OpenAI 则回应称非营利机构不会消失，正调整为益民公司架构。
Microsoft 重启 Recall 推送：进入发布预览通道，全面上线在即
周四，Microsoft 开始向 Release Preview 频道的 Windows 预览体验成员逐步推送 Recall 功能。这项通过截屏记录操作供后续搜索的功能曾两度因安全争议推迟，现改为必须主动开启，且仅限 Copilot Plus PC。进入该频道意味着离正式全量推送只差临门一脚。
OpenAI 正式反诉马斯克：指责其发起虚假收购，要求制止不法行为
OpenAI 正式对埃隆·马斯克提起反诉，要求法院制止其进一步的「不法与不公平行为」，并追究其造成的损失。OpenAI 指控马斯克借虚假收购扰乱其商业计划、拖慢发展以谋取私利。这场由公司重组引发的法律恩怨进一步升级。
詹姆斯·卡梅隆谈 AI：大片成本必须砍半，监管应管输出而非输入
导演詹姆斯·卡梅隆在播客中表示，重度依赖特效的大片必须借助 AI 将制作成本减半，核心是把单镜头完成速度翻倍而非裁员。对于版权争议，他认为人类本身也是靠经验训练的模型，法律应判定最终输出是否侵权，而非限制训练输入。
Meta 否认 Llama 4 跑分造假：没针对测试集刷分
Meta 生成式 AI 副总裁 Ahmad Al-Dahle 发文否认针对测试集训练以虚标 Llama 4 跑分的传言。此前周末网络热传 Meta 刻意美化测试成绩，且实测中各平台表现不一。官方回应称模型刚发出来，各云端实现仍需几天调优并持续修复 bug。