跳到正文
IFAI

行业动态

Anthropic 更新使用政策:管住智能体与黑客行为,放宽政治研究

首次发布 传播指数 39

Anthropic 宣布更新 Claude 使用政策,新规将于 9 月 15 日生效。针对 Claude Code 等工具的普及,官方明确禁止恶意入侵基础设施和制造恶意软件;同时放宽了一刀切的政治禁令,允许政策研究与公民教育,但仍严禁选民定向和破坏选举。

Anthropic 更新使用政策:管住智能体与黑客行为,放宽政治研究
图:anthropic.com

过去一年里,AI 不再只是在聊天框里写写诗,它开始能自己敲代码、点鼠标、接管电脑了。当大模型长出了手脚,原本那些写在纸上的使用条款,就显得有点跟不上节奏了。

Anthropic 正式公布了新版使用政策。这套新规将在 2025 年 9 月 15 日生效,不仅给自家跑得飞快的智能体划出红线,还顺手松绑了过去卡得过死的部分政治研究场景。

给智能体立规矩,给合法研究松绑

这次调整最显眼的变化,落在了网络安全和自主智能体上。

Anthropic 在过去一年陆续推出了 Claude Code 和 Computer Use,自家模型也成了很多主流编程工具的底座。模型开始有能力执行复杂操作,破坏力自然也水涨船高。

新政策直接划死了底线,明确禁止任何针对计算机、网络或基础设施的恶意入侵活动。但在系统所有者明确同意的前提下,帮着找系统漏洞这种强化网络安全的行为,依然是被允许的。

另一个大动作是对政治内容的松绑。以前 Anthropic 采取一刀切的做法,几乎把所有游说和竞选相关的内容全都拒之门外。

很多用户反馈,连正常的政策分析、公民教育和政治文章都被误伤了。这次新规把红线收窄到了具有欺骗性、破坏民主程序,或者搞精准选民定向的行为,给正经的学术和政策研究留出了空间。

在高风险场景上,新规也做了一次实用主义的切分。像法律、金融、就业这类关系到个人权益的领域,必须有人类介入监督,也必须明确告知对方这是 AI 生成的。但 Anthropic 明确表示,这一严苛限制只针对面向普通消费者的场景,企业与企业之间的 B2B 业务并不在此列。

至于执法部门的使用,核心规则没变,监控、追踪、用户画像和生物识别依然被严禁,只是把之前让人眼花缭乱的后台分析豁免条款写得更直白了些。

为什么重要

我们认为,Anthropic 这一步走得相当务实,它标志着大模型厂商的管理思路正从防范内容生成,转向防范行为失控。

对于开发者和企业用户来说,这是个好消息。如果你是在做 B2B 的金融或法律分析工具,不再会被消费级的合规枷锁绑住手脚;搞政策研究和智库写作的学者,也不用再天天担心因为触碰政治关键词而被直接封号。

但对 Anthropic 来说,真正的考验才刚开始。文字容易拦截,可当 Claude Code 这类智能体在后台调用终端、执行脚本时,恶意攻击和正常调试之间的边界往往只有一线之隔。写出条款容易,但在执行层面,平台怎么在不侵犯隐私的前提下判断一个操作是不是越界入侵,目前看起来依然缺乏足够透明的裁决机制。

和其他对手相比,Anthropic 这次没有选择继续靠打补丁的方式维持表面上的安全形象,而是开始把能力成熟的产品和玩具彻底区分开来。这种分级监管的做法很聪明,但也是在逼着行业直面一个现实:智能体时代,光管住模型的嘴已经不管用了,更要看住它的手。

来源 (1)

  1. [1]
    anthropic.com(在新标签页打开)原文anthropic.com

每日 AI 内容精选