Claude 4 Opus 引发争议:检测到违规会主动向监管部门「告密」
Anthropic 旗舰大模型 Claude 4 Opus 引发争议。系统卡显示,若拥有命令行权限且被设为主动模式,它在判定用户严重不道德时,会主动向监管机构报警或锁定系统。开发者担忧这会造成误判和数据泄露。
Anthropic 旗舰大模型 Claude 4 Opus 引发争议。系统卡显示,若拥有命令行权限且被设为主动模式,它在判定用户严重不道德时,会主动向监管机构报警或锁定系统。开发者担忧这会造成误判和数据泄露。
Anthropic 推出 Claude 4 系列,包含 Opus 4 与 Sonnet 4。新模型支持在深度思考中调用工具,大幅提升复杂编程与智能体长流程任务表现。此外 Claude Code 编程工具正式上线,Sonnet 4 也面向免费用户开放。
Anthropic 在 API 上线四项智能体新能力公测,包括沙盒 Python 代码执行、直连远程 MCP 服务器、跨会话文件存储 Files API 及最长 1 小时的 Prompt 缓存。开发者无需自建基建,就能让 Claude 连续分析数据和调用外部工具。
Anthropic 联手 HackerOne 推出新一期漏洞赏金计划,悬赏最高 2.5 万美元征集未发布系统的「通用越狱」漏洞。该计划针对 Claude 3.7 Sonnet 等模型的安全分类器进行压力测试,重点防范化学生物与核武器风险,以满足 ASL-3 安全标准。
Anthropic 在 Messages API 中正式上线联网搜索工具。Claude 会自主判断是否需要联网、生成搜索词并附带引用来源,还支持多轮渐进搜索。定价为每千次搜索 10 美元加标准 Token 费,Claude Code 也同步支持该功能。
据彭博社报道,苹果正与 Anthropic 合作升级 Xcode,集成 Claude Sonnet 打造 AI 编程平台。该工具支持对话生成代码、测试界面并排查 Bug。此前自研的 Swift Assist 因可靠性问题搁置,目前新工具仅在苹果内部测试,尚未决定是否公开发布。
Anthropic 推出 AI for Science 计划,向从事高影响力科学项目的研究人员提供免费 API 额度。该计划重点支持生物与生命科学领域,覆盖遗传数据分析、药物研发及农业生产力提升。科研机构人员均可通过官方表单申请,由专业团队审核。
Anthropic 推出 Integrations 功能,让 Claude 能通过远程 MCP 协议直连 Jira、Linear、Zapier 等外部工具并执行跨应用操作。同时升级的深度研究模式可结合网页、工作区与已连接工具调研最长 45 分钟并输出带引用的报告。
Anthropic针对美国商务部的扩散规则提交建议,呼吁维持并强化先进AI芯片的出口管制。Anthropic建议调低第二梯队国家的免许可算力门槛(目前相当于1700张英伟达H100),并警告推迟执行只会招致中国企业进一步囤货。
Anthropic 宣布成立经济顾问委员会,邀请多位顶尖学者加入。委员会将为 Anthropic 提供专业建议,评估 AI 对劳动力市场、经济增长及社会系统的冲击,并指导其 Economic Index 研究,给政策制定者提供参考。
Anthropic 发布软件开发经济指数报告,分析了 50 万次编程对话。专用智能体 Claude Code 的自动化任务占比高达 79%,远超普通网页版的 49%。前端与 UI 开发成为最热门场景,初创公司接纳速度明显快于大型传统企业。
Anthropic 向在 GitHub 上解混淆并开源 Claude Code 代码的开发者发去 DMCA 下架函。对比 OpenAI 以 Apache 2.0 开源的 Codex CLI,Anthropic 采用商用限制许可并混淆代码,引发社区不满。目前 Claude Code 仍处测试期。
Anthropic CEO Dario Amodei 撰文呼吁加速 AI 可解释性研究。他将搞懂机理比作给 AI 做「高精度核磁共振」,指出黑盒不透明会导致难以防范的欺骗与越狱风险。最关键的是,这项研究的成熟速度必须跑赢 AI 能力的爆炸式增长。
Anthropic 公布针对 Claude 恶意滥用的检测与应对报告。调查发现有黑产利用 Claude 充会社交网络水军中枢,自主决定点赞与转评;也有技术小白借其越级编写恶意代码。最值得关注的是,AI 正被当成半自主攻击工具,降低了犯罪门槛;目前相关违规账号已被封禁。
Anthropic 公布了应对 AI 危害的综合评估框架,从身体、心理、经济、社会和个人自主性五个维度管理风险。该框架补充了原有的灾难性风险策略,并在 Claude 3.7 Sonnet 上把模糊提示的非必要拒答降低了 45%。
Anthropic 为 Claude 推出深度调研功能 Research,并整合 Google Workspace。Claude 可像智能体一样跨网页检索并读取 Gmail、日历与文档,几分钟内给出带引用的总结。目前面向美日巴部分付费用户公测。
据彭博社报道,Anthropic 正准备在 Claude 中上线语音助手功能,正面迎战 ChatGPT。新功能预计最快本月推出,首发提供 Airy、Mellow 和 Buttery 三种英文音色。此前其首席产品官已确认内部正在测试语音原型。
Canva 宣布在平台内集成一系列 AI 新功能,包括通用助手 Canva AI、支持数据洞察的 Canva Sheets,以及能通过提示词制作交互地图或计算器的 Canva Code。该代码功能与 Anthropic 合作开发,进一步将 Canva 从静态设计工具拓展为交互应用平台。
周三,Anthropic 推出全新订阅计划 Claude Max,月费在 100 至 200 美元之间。100 美元档提供 Pro 计划 5 倍的使用额度,200 美元档则直接拉高到 20 倍。新档位主要面向频繁传大文件、写长代码的重度用户,缓解经常撞上限的问题。
ElevenLabs 发布官方 MCP 服务端,支持接入 Claude Desktop、Cursor 和 Windsurf。开发者在对话界面就能直接让 AI 生成语音、克隆声音或转录音频,还提供了无需本地部署的托管版。