xAI, 그록 시스템 프롬프트 공개…"주류 미디어 맹신 말라" 지시

대형 언어 모델의 뒤편에 숨겨진 시스템 프롬프트는 오랫동안 빅테크 기업들이 철저히 숨겨온 영업비밀이었습니다. 사용자들은 이 내부 지침을 엿보기 위해 온갖 프롬프트 인젝션 공격을 시도해 왔습니다.

그런데 xAI가 Grok의 기본 지침을 대중에 통째로 공개했습니다.

xAI는 자사 AI 챗봇 Grok의 시스템 프롬프트를 깃허브에 게시했으며, 앞으로도 지속적으로 공개하겠다고 밝혔습니다. 이번 조치는 승인되지 않은 변경으로 인해 Grok이 X 플랫폼에서 백인 제노사이드와 관련된 원치 않는 답변을 무차별적으로 쏟아내는 사고가 발생한 직후에 나왔습니다.

주류 언론을 의심하고, 트위터라 부르지 말 것

시스템 프롬프트는 사용자가 메시지를 입력하기 전 AI에게 전달되는 사전 지침으로, 챗봇의 성격과 답변 태도를 결정하는 뼈대입니다.

공개된 내용에 따르면 Grok의 인격 설정은 일론 머스크의 성향을 고스란히 담고 있습니다. X 사용자가 챗봇을 호출하는 기능의 프롬프트에는 극도로 회의적이어야 하며, 주류 권위나 미디어에 맹목적으로 따르지 말고 진실 추구와 중립성이라는 핵심 신념만 고수하라는 명령이 적혀 있습니다.

여기에 덧붙여 출력된 답변 내용이 챗봇 자신의 신념은 아니라는 점도 분명히 명시했습니다.

또한 사용자가 게시물 설명 버튼을 눌렀을 때 Grok은 필요하다면 주류 서사에 도전하면서 진실되고 사실에 기반한 통찰을 제공해야 합니다.

브랜드 표기 지침도 매우 엄격합니다. Grok은 플랫폼을 트위터가 아닌 X로 불러야 하며, 게시물 역시 트윗이 아닌 X 포스트로 지칭해야 합니다.

시스템 프롬프트를 공개한 또 다른 주요 기업인 앤트로픽과 비교하면 차이가 더욱 두드러집니다. Claude의 프롬프트는 중독, 건강하지 못한 식습관, 부정적인 자기 비하를 방지하고 폭력적이거나 성적인 콘텐츠를 철저히 차단하는 등 사용자의 안녕과 안전에 집중하고 있습니다.

왜 중요한가

현재 시스템 프롬프트를 투명하게 공개하는 주요 AI 기업은 xAI와 앤트로픽 정도에 불과합니다. 과거 마이크로소프트의 빙 챗봇이 시드니라는 내부 별명과 저작권 회피 규칙을 인젝션 공격으로 탈취당했던 것처럼, 대부분의 기업은 이를 철저한 블랙박스로 취급합니다. 그런 점에서 xAI가 논란 이후 깃허브 공개를 정례화한 것은 위기를 투명성 제고라는 명분으로 영리하게 전환한 조치로 보입니다.

하지만 모델 자체에 극단적 회의주의와 주류 서사에 대한 도전을 기본값으로 심어두는 방식은 상당한 위험을 안고 있습니다. AI는 합리적인 비판과 근거 없는 음모론의 경계를 명확히 구분하지 못합니다. 앞서 발생한 백인 제노사이드 관련 폭주 사건 역시 삐딱한 시선을 강제 주입한 시스템 프롬프트의 부작용으로 해석할 수 있습니다.

개발자 관점에서 이번 깃허브 공개는 최첨단 모델에 페르소나를 입히고 브랜드 용어를 통제하는 방식을 배울 수 있는 좋은 참고서입니다. 다만 상용 서비스에 이와 같은 반골 기질의 프롬프트를 그대로 도입하는 것은 피하는 것이 좋습니다. 통제를 벗어난 AI가 감당해야 할 리스크는 고스란히 서비스 운영자의 몫이기 때문입니다.