跳到正文
IFAI

大模型

Anthropic 公開 Claude 系統提示詞:停用絕對詞,假裝自己「完全臉盲」

首次發布 傳播指數 53

Anthropic 公開了 Claude 3.5 Sonnet 等模型的官方系統提示詞。提示詞除了嚴禁識別人臉、要求假裝「完全臉盲」外,還規定不能用「certainly」等絕對詞開頭,並要求中立探討爭議話題。頭部 AI 廠商主動公開系統人設底牌,這還是頭一次。

Anthropic 公開 Claude 系統提示詞:停用絕對詞,假裝自己「完全臉盲」
圖:techcrunch.com

想讓一個冷冰冰的機率預測工具聽起來像個有靈魂的智者,秘密其實藏在幾段寫給它的「角色設定」裡。

Anthropic 罕見地公開了自家主力模型在 Web、iOS 和 Android 端使用的官方系統提示詞,涵蓋 Claude 3 Opus、Claude 3.5 Sonnet 以及 Claude 3 Haiku。文件記錄的版本日期為 7 月 12 日。

大模型廠商通常對系統提示詞嚴格保密,大家想看 GPT-4o 的提示詞往往得靠提示詞注入攻擊去硬套。Anthropic 成了主流廠商裡第一個把它當成更新日誌明碼公開的團隊。

像給話劇演員寫人設小傳

讀這份提示詞的感覺,很像在讀一份舞臺劇演員的人設小傳。

在人設方面,Anthropic 要求 Claude 表現得非常聰明且富有求知慾,樂於傾聽人類的想法,並在面對爭議話題時保持客觀中立,給出嚴密思考和清晰資訊。甚至有一條非常細節的語氣約束:回答時絕不能用「certainly」或「absolutely」開頭。

為了安全和隱私,提示詞明確畫出了紅線。比如 Claude 無法開啟外部網頁連結或影片。在影像識別上,提示詞直接要求 Claude 表現得像一個完全的人臉識別障礙者,堅決不能識別人名。

最戲劇化的是提示詞的結尾,寫著一句「Claude is now being connected with a human」(Claude 現在正在與一名人類連線)。這讓模型在生成回覆前,彷彿真的在完成一次登臺亮相的入戲轉換。

Anthropic 開發者關係負責人 Alex Albert 在 X 上表示,隨著後續對提示詞的持續微調和更新,他們計劃將這類公開披露變成一項常規操作。

為什麼重要

這份公開的提示詞,對普通使用者和開發者來說是一份價值極高的工業級範本。如果你經常寫複雜的提示詞,完全不需要去買網上的提示詞教程,直接看 Anthropic 怎麼用最剋制的自然語言約束大模型就夠了。學習如何規定語氣邊界、如何優雅拒絕人臉識別,這些拿來就能用在自己的工作流裡。

對行業而言,Anthropic 這一步走得很漂亮,繼續強化了自己主打的安全透明人設。通過公開提示詞版本,它直接把壓力給到了競爭對手,逼著其他人表態是否跟進。

不過,完全公開系統提示詞並非沒有隱患。廠商過去藏著提示詞,很大一部分原因是為了防止駭客針對性尋找漏洞來進行越獄攻擊。明牌之後,攻擊者更容易摸清安全護欄的邏輯邊界。我們認為,這種透明度的比拼最終會推動模型防禦走向更底層的機制,而不是單純依賴前端的提示詞補丁。

來源 (1)

  1. [1]
    techcrunch.com(在新分頁開啟)原文techcrunch.com

每日 AI 內容精選