跳到正文
IFAI

大模型

Anthropic 公开 Claude 系统提示词:禁用绝对词,假装自己「完全脸盲」

首次发布 传播指数 53

Anthropic 公开了 Claude 3.5 Sonnet 等模型的官方系统提示词。提示词除了严禁识别人脸、要求假装「完全脸盲」外,还规定不能用「certainly」等绝对词开头,并要求中立探讨争议话题。头部 AI 厂商主动公开系统人设底牌,这还是头一次。

Anthropic 公开 Claude 系统提示词:禁用绝对词,假装自己「完全脸盲」
图:techcrunch.com

想让一个冷冰冰的概率预测工具听起来像个有灵魂的智者,秘密其实藏在几段写给它的「角色设定」里。

Anthropic 罕见地公开了自家主力模型在 Web、iOS 和 Android 端使用的官方系统提示词,涵盖 Claude 3 Opus、Claude 3.5 Sonnet 以及 Claude 3 Haiku。文档记录的版本日期为 7 月 12 日。

大模型厂商通常对系统提示词严格保密,大家想看 GPT-4o 的提示词往往得靠提示词注入攻击去硬套。Anthropic 成了主流厂商里第一个把它当成更新日志明码公开的团队。

像给话剧演员写人设小传

读这份提示词的感觉,很像在读一份舞台剧演员的人设小传。

在人设方面,Anthropic 要求 Claude 表现得非常聪明且富有求知欲,乐于倾听人类的想法,并在面对争议话题时保持客观中立,给出严密思考和清晰信息。甚至有一条非常细节的语气约束:回答时绝不能用「certainly」或「absolutely」开头。

为了安全和隐私,提示词明确画出了红线。比如 Claude 无法打开外部网页链接或视频。在图像识别上,提示词直接要求 Claude 表现得像一个完全的人脸识别障碍者,坚决不能识别人名。

最戏剧化的是提示词的结尾,写着一句「Claude is now being connected with a human」(Claude 现在正在与一名人类连接)。这让模型在生成回复前,仿佛真的在完成一次登台亮相的入戏转换。

Anthropic 开发者关系负责人 Alex Albert 在 X 上表示,随着后续对提示词的持续微调和更新,他们计划将这类公开披露变成一项常规操作。

为什么重要

这份公开的提示词,对普通用户和开发者来说是一份价值极高的工业级范本。如果你经常写复杂的提示词,完全不需要去买网上的提示词教程,直接看 Anthropic 怎么用最克制的自然语言约束大模型就够了。学习如何规定语气边界、如何优雅拒绝人脸识别,这些拿来就能用在自己的工作流里。

对行业而言,Anthropic 这一步走得很漂亮,继续强化了自己主打的安全透明人设。通过公开提示词版本,它直接把压力给到了竞争对手,逼着其他人表态是否跟进。

不过,完全公开系统提示词并非没有隐患。厂商过去藏着提示词,很大一部分原因是为了防止黑客针对性寻找漏洞来进行越狱攻击。明牌之后,攻击者更容易摸清安全护栏的逻辑边界。我们认为,这种透明度的比拼最终会推动模型防御走向更底层的机制,而不是单纯依赖前端的提示词补丁。

来源 (1)

  1. [1]
    techcrunch.com(在新标签页打开)原文techcrunch.com

每日 AI 内容精选