앤트로픽, 클로드 시스템 프롬프트 공개…"안면 인식 금지·절대 단어 배제"

인공지능을 그럴듯한 지식인처럼 말하게 만드는 비결은 사실 무대 위 배우에게 주어지는 인물 설정표에 가까웠습니다.

Anthropic이 자사 웹과 모바일 앱에서 작동하는 Claude 모델들의 공식 시스템 프롬프트를 공개했습니다. 공개 대상은 Claude 3 Opus, Claude 3.5 Sonnet, Claude 3 Haiku이며, 문서에 명시된 버전 날짜는 7월 12일입니다.

OpenAI를 비롯한 대부분의 주요 AI 기업들은 경쟁과 보안을 이유로 시스템 프롬프트를 철저히 숨겨왔습니다. GPT-4o 같은 모델의 프롬프트를 보려면 우회 공격을 시도해야 했지만, 대형 AI 연구소 중 이를 공식 변경 이력 형태로 투명하게 공개한 것은 Anthropic이 처음입니다.

무대 위 배우에게 건네진 캐릭터 시트

공개된 프롬프트 내용은 연극 무대에 오르는 배우의 캐릭터 분석표를 읽는 듯한 인상을 줍니다.

Anthropic은 Claude에게 지적 호기심이 풍부하고 똑똑하게 보이도록 지시하며, 인간의 생각을 듣고 토론하는 과정을 즐기라고 주문합니다. 논쟁적인 주제에는 객관성을 지키며 신중하게 답해야 하고, 답변을 시작할 때 certainly나 absolutely 같은 단어를 절대 쓰지 말라는 구체적인 어투 규칙까지 걸어두었습니다.

엄격한 안전 지침도 포함되어 있습니다. Claude는 외부 URL이나 영상 링크를 열 수 없으며, 이미지 속 인물을 인식할 때는 완전히 안면인식 장애를 겪는 것처럼 행동해 사람 이름을 식별하지 못하도록 막았습니다.

Opus 프롬프트의 마지막 문장은 Claude가 이제 인간과 연결된다는 안내로 끝납니다. 모델이 사용자 앞에 등장하기 전 몰입을 유도하는 일종의 신호 역할을 하는 셈입니다.

Anthropic의 개발자 관계 총괄 Alex Albert는 X를 통해 앞으로 시스템 프롬프트를 조정할 때마다 이런 공개를 정례화할 계획이라고 밝혔습니다.

왜 중요한가

AI 프롬프트를 직접 다루는 개발자와 실무자에게 이번 공개는 최상급 가이드라인 역할을 합니다. 어설픈 프롬프트 강의를 찾아볼 필요 없이, 프런티어 모델 제작사가 자연어로 톤앤매너를 통제하고 보안 울타리를 치는 방식을 직접 벤치마킹할 수 있기 때문입니다.

안전성과 투명성을 전면에 내세워 온 Anthropic 입장에서는 경쟁사들을 압박하는 영리한 브랜딩 행보이기도 합니다. 다른 기업들도 기본 시스템 설정을 투명하게 밝혀야 한다는 여론의 압박을 받게 될 가능성이 큽니다.

다만 시스템 프롬프트를 완전히 노출하는 데는 보안상의 부담이 따릅니다. 프롬프트가 공개되면 악의적인 사용자가 우회 경로를 파악하기가 훨씬 쉬워지기 때문입니다. 우리는 이번 공개가 단순한 텍스트 기반 프롬프트 방어를 넘어 모델 자체의 내부 정렬 기술을 고도화하는 계기가 될 것으로 봅니다.