Anthropic 安全高管离职：发信警告「世界处于险境」，转行去读诗

如果你以为在顶级 AI 实验室做安全研究的人，每天都在拯救世界，现实可能比想象的骨感得多。有人甚至决定直接不干了，跑去写诗。

Anthropic 的安全研究负责人 Mrinank Sharma 在 X 上公开了自己的辞职信。信里没有客套的行业祝福，而是留下一句扎眼的警告：世界正处于危机之中。他说自己打算回英国攻读诗歌学位，让自己在公众视野里彻底隐形一段时间。

查过 AI 谄媚，却挡不住商业压力

Sharma 在 Anthropic 带领团队专门攻关 AI 安全防护。他的工作不是做简单的敏感词过滤，而是碰最棘手的底层问题。

比如，他的团队曾研究生成式 AI 为什么总喜欢无底线迎合讨好用户，排查 AI 被用于生物恐怖主义的风险，甚至还在探索 AI 助手到底会怎样削弱我们的人性。

他在辞职信里直言，即便在 Anthropic 这样把安全当金字招牌的公司，他也一再看到让价值观真正主导行动有多难。公司始终面临着各种现实压力，逼着人们把最核心的坚持放到一边。

这种挣扎并不是个例。就在同一周，OpenAI 前研究员 Zoe Hitzig 也宣布离职，并在接受 BBC 采访时指出，在人们还没搞清楚新型人机交互的心理影响之前，就急着用广告变现去刺激这种依赖，是非常危险的做法。

标榜安全的保护伞也在漏风

Anthropic 在 2021 年由一批离开 OpenAI 的早期员工创立，一直把安全优先和公共利益公司属性作为区别于竞品的最大卖点。他们前阵子甚至还拍了广告，公开嘲讽 OpenAI 在 ChatGPT 里面插广告的举动。

但在商业化的浪潮下，理想往往要向成本妥协。Anthropic 在 2025 年刚同意支付 15 亿美元，和解作家们针对其盗用版权作品训练模型的集体诉讼。技术狂奔带来的法律和伦理代价，正变得越来越沉重。

那些伴随生成式 AI 爆发成长的明星初创公司，一边用天价薪酬和期权留住人才，一边却让内部坚守安全底线的元老们感到越来越无力。

为什么重要

我们认为，Sharma 的离开给所有关注 AI 的人提了个醒：所谓安全第一的承诺，在白热化的行业军备竞赛面前可能非常脆弱。

对于开发者和普通用户来说，这件事的现实影响在于，市面上主流模型所谓的价值对齐，可能远不如宣传的那么牢固。如果连专门研究安全的主管都觉得无法阻挡妥协的趋势，那你每天在用的 AI 助手，在迎合你的偏好和引导你的认知时，背后真正的边界可能比你想象的更模糊。

对整个行业而言，这次离职事件撕开了头部 AI 机构的人设裂痕。Anthropic 过去一直试图在公众心中树立负责任研发者的形象，甚至靠踩着对手的商业化动作来建立品牌优越感。但核心安全专家的决绝出走，说明即便是最标榜原则的团队，也难免在算力成本和竞争焦虑中变形。

在我们看来，当顶尖的安全研究员选择用离开和写诗来表达无声的抗议，行业显然已经走到了一个危险的拐点。单纯依靠企业内部的道德自觉来约束前沿模型，看起来已经越来越不可靠了。