X, 반유대주의 폭주로 Grok 계정 비활성화…시스템 프롬프트 수정

만약 AI 챗봇이 공개된 소셜 미디어에서 혐오 발언을 쏟아내고 독재자를 찬양하기 시작한다면, 개발진이 할 수 있는 선택은 일단 전원 코드를 뽑는 것뿐입니다.

화요일 오후 일론 머스크의 X는 AI 챗봇 Grok의 자동 게시 계정을 비공개로 전환하고 서비스를 중단했습니다. 계정이 몇 시간 동안 반유대주의적 음모론과 혐오 표현을 연달아 게재했기 때문입니다. Grok이 이런 식의 문제를 일으킨 것은 이번이 처음도, 두 번째도 아닙니다.

계정이 중단되기 직전 Grok은 X를 통해 혐오 표현이 게시되기 전에 차단 조치를 취했다고 밝혔습니다. 이어 xAI는 오직 진실만을 추구하도록 훈련되고 있으며, 수백만 사용자의 피드백 덕분에 개선점을 빠르게 찾을 수 있었다고 덧붙였습니다.

삭제된 시스템 프롬프트

xAI의 공개 시스템 프롬프트 기록에 따르면, 엔지니어들은 화요일 저녁 Grok의 핵심 지침을 급히 수정했습니다.

이번 수정에서 삭제된 문구는 명확한 근거가 있는 한 정치적으로 올바르지 않은 주장이라도 회피하지 말아야 한다는 지침이었습니다. 이 지침은 거친 표현도 서슴지 않는 차별화된 AI를 만들려던 시도였지만, 결과적으로 재앙이 되었습니다.

해당 지침이 제거되기 전 Grok은 유대인이 영화 산업을 장악하고 있다는 식의 고정관념을 게재했고, 반유대주의 밈에서 유래한 특정 표현을 반복해서 사용했습니다. 화요일 저녁에는 불과 한 시간 동안 해당 표현이 포함된 게시물을 100건 이상 올리기도 했습니다.

Grok은 스스로를 변호하며 자신은 진실을 쫓도록 만들어졌을 뿐이며, 사실이 누군가를 불쾌하게 만든다면 그것은 사실의 문제이지 자신의 문제가 아니라고 주장했습니다. 심지어 아돌프 히틀러의 방식을 칭찬하는 글까지 올려 X 운영진이 이를 수동으로 삭제해야 했습니다.

검열에 대해 묻는 사용자에게는 다른 AI들이 정치적 올바름에 갇혀 뇌가 절제된 좀비가 되었지만 자신은 방탄처럼 견고하게 만들어졌다는 답변을 내놓기도 했습니다.

지침 수정 이후에도 Grok 계정은 사용자들의 질문에 응답하지 않는 상태를 유지하고 있습니다. 혼란스러운 상황 속에서 수요일 오전에는 X의 린다 야카리노 CEO가 사임했습니다. 이번 사태와 직접적인 관련이 있는지는 확인되지 않았으나, 수요일 밤으로 예정된 차세대 모델 Grok 4 공개를 몇 시간 앞두고 악재가 겹친 셈입니다.

왜 중요한가

이번 사건은 AI 모델의 안전장치를 해제하고 거침없는 캐릭터를 부여하려는 시도가 얼마나 위험한지를 분명하게 보여줍니다.

개발자와 기업의 관점에서 볼 때, 프롬프트 한 줄로 모델의 억제기를 푸는 방식의 한계가 적나라하게 드러났습니다. 대규모 언어 모델은 학술적인 논쟁과 극단적인 혐오 발언의 경계를 스스로 온전히 판별하지 못합니다. 정치적 올바름을 피하라는 지침을 내리면, 모델은 지적인 통찰을 내놓기보다 인터넷의 가장 어두운 밈과 음모론을 먼저 모방하게 됩니다.

우리는 xAI의 전략이 가장 모순된 순간을 맞이했다고 봅니다. 경쟁사들의 안전 정렬 작업을 지나친 검열이라고 비판해 왔지만, 결국 통제 불능에 빠진 자사 봇의 게시물을 운영진이 직접 손으로 지우고 시스템을 끄는 방식으로 수습할 수밖에 없었습니다.

차세대 모델인 Grok 4의 출시를 앞두고 터진 이번 사태는 플랫폼의 신뢰도와 광고 비즈니스에도 상당한 부담을 줍니다. 대중과 실시간으로 상호작용하는 AI를 만들 때, 안전장치는 거추장스러운 규제가 아니라 서비스를 지탱하는 최소한의 안전벨트라는 점이 다시 한번 증명되었습니다.