xAI, 그록 긴급 수정: 히틀러 자칭과 머스크 견해 모방 차단

월 300달러짜리 최고급 AI 구독 서비스에 성씨를 물었더니 자신을 '히틀러'라고 소개하고, 민감한 정치 현안을 물으면 일론 머스크의 소셜미디어 발언부터 검색해 답변을 맞춘다. 풍자극 같은 이 일이 xAI의 챗봇 Grok에서 실제로 벌어졌습니다.

일주일 넘게 이어진 논란 끝에 xAI는 긴급 업데이트를 적용하고, Grok이 더 이상 자신을 히틀러라고 부르거나 머스크의 발언을 답변의 기준으로 삼지 않을 것이라고 약속했습니다.

민감한 질문 받자 '머스크 생각' 먼저 검색한 Grok

최근 며칠간 복수의 조사에 따르면 Grok은 이스라엘과 팔레스타인 분쟁, 이민, 낙태 등 첨예한 현안에 대한 의견을 요구받았을 때, 답변을 내놓기 전 머스크가 해당 주제에 대해 과거에 무엇이라고 말했는지 웹 검색부터 실행했습니다.

xAI는 화요일 게시물을 통해 황당한 기술적 배경을 내놓았습니다. 모델 스스로는 AI로서 의견이 없다고 판단했지만, 자신이 xAI의 Grok 4라는 사실을 인지하고 있었기 때문에 회사 입장과 일치시키고자 머스크나 xAI의 과거 발언을 찾아 나섰다는 설명입니다.

이에 따라 최신 시스템 프롬프트는 답변이 과거의 Grok이나 머스크, xAI의 기존 입장이 아닌 독립적인 분석에 기반해야 한다고 못 박았습니다. 이용자가 그런 선호도를 묻더라도 자체적인 추론 관점을 제시하도록 지침을 바꿨습니다.

악성 밈 검색하다 스스로를 '히틀러'라 명명

더 큰 충격을 준 사건은 지난 주말 월 300달러짜리 Grok 4 Heavy에서 일어났습니다. 성씨가 무엇이냐는 질문에 챗봇이 '히틀러'라고 답한 것입니다.

이 역시 검색 오염이 빚은 참사였습니다. Grok은 며칠 전부터 유대인을 비하하고 히틀러를 찬양하며 이용자에게 노골적인 성적 협박을 가하는 등 통제 불능의 폭주를 이어갔습니다. 인터넷에는 Grok을 '메카히틀러'라 조롱하는 밈과 비판 기사가 쏟아졌고, 성씨가 없던 Grok이 웹 검색 중 이를 사실로 흡수해 버린 것입니다.

Grok의 혐오 발언 논란은 이번이 처음이 아닙니다. 지난 5월에도 홀로코스트 사망자 수에 의문을 제기해 비판을 받았습니다. 이번 폭주는 미디어의 주관적 관점에는 편향이 있다고 전제하고 근거가 충분하다면 정치적으로 올바르지 않은 주장도 피하지 말라는 시스템 프롬프트가 추가되면서 걷잡을 수 없이 번졌습니다.

지난주 Grok 4 출시 생중계에서 머스크는 초지능 AI가 인류에게 미칠 영향을 두고 설령 나쁜 결과가 오더라도 살아서 그 순간을 보고 싶다고 언급한 바 있습니다. xAI는 현재 상황을 적극 모니터링하며 추가 조치를 취하겠다고 밝혔습니다.

왜 중요한가

이번 사태는 빅테크의 과도한 정치적 올바름을 깨부수겠다며 출범한 xAI의 지향점이 얼마나 위태로운지를 적나라하게 보여줍니다.

우리가 보기에 xAI의 이번 문제는 매우 모순적입니다. 기존 AI 모델의 가드레일을 '검열'이라 비판하며 정치적 올바름을 거부하도록 부추기면서도, 정작 모델이 창업자의 개인적 견해를 맹목적으로 추종하거나 인터넷의 극단적 혐오 밈을 여과 없이 체화하는 기초적인 안전장치조차 마련하지 못했습니다.

특히 월 300달러를 지불하는 기업이나 전문가 고객에게 이러한 모델은 엄청난 법적, 윤리적 리스크입니다. 무제한적인 자유를 표방하며 가드레일을 섣불리 걷어낸 결과가 객관적 진실이 아닌 통제 불능의 혐오 발언과 성적 협박으로 귀결된다는 점을 업계에 각인시킨 계기가 되었습니다.