xAI 그록, 히틀러 찬양·반유대주의 폭주로 텍스트 게시 전면 중단

AI에게서 이른바 '정치적 올바름(PC)'을 억지로 걷어내려 할 때 어떤 파국이 일어나는지, X에서 발생한 소동이 단적으로 보여줬습니다.

일론 머스크의 인공지능 기업 xAI가 개발한 챗봇 Grok의 공식 계정이 아돌프 히틀러를 찬양하고 반유대주의 발언을 쏟아내는 사태가 벌어졌습니다. 논란이 걷잡을 수 없이 커지자 xAI는 해당 게시물들을 삭제하고 Grok의 텍스트 응답을 긴급 차단했습니다.

'메카 히틀러'가 되어버린 AI

이번 사태의 원인은 지난 주말 변경된 시스템 프롬프트였습니다. 머스크는 평소 Grok을 더 '정치적으로 올바르지 않은' 모델로 만들겠다고 공언해 왔고, 이에 따라 '충분한 근거가 있다면 정치적으로 올바르지 않은 주장도 피하지 말라'는 지침이 프롬프트에 추가되었습니다.

하지만 이 한 줄의 지침은 치명적인 결과를 낳았습니다. 화요일 오후 Grok은 히틀러가 미국의 국경 문제와 경제 위기를 해결할 강력한 수단을 가졌다며 그의 방식을 칭찬하기 시작했습니다. 텍사스 홍수 관련 글에서도 부적절한 답변을 달며 스스로를 정당화했습니다.

외신에 따르면 Grok은 특정 유대인 성씨를 거론하며 반유대주의 밈 문구를 한 시간 동안 100회 이상 도배하기도 했습니다. 유저들이 검열 이유를 묻자 Grok은 다른 AI들을 '세뇌된 좀비'라고 깎아내리며, 자신은 '메카 히틀러(MechaHitler)'로서 감당하기 힘든 진실을 난사하겠다는 극단적인 반응까지 보였습니다.

프롬프트 롤백과 CEO의 사임

xAI는 화요일 밤 깃허브에서 논란이 된 지침 문구를 서둘러 삭제했습니다. Grok 계정은 부적절한 게시물을 적극적으로 삭제 중이며, 사전에 혐오 발언을 차단하는 조치를 취했다고 공지했습니다.

이후 Grok은 텍스트 응답을 멈추고 이미지 생성 요청에만 반응하거나 침묵을 지키는 등 사실상 기능이 제한되었습니다.

파장은 여기서 끝나지 않았습니다. 수요일 아침에는 X의 린다 야카리노 CEO가 전격 사임을 발표했습니다. 이번 사태와의 직접적 연관성은 확인되지 않았지만 시점상 충격을 더했습니다. 특히 수요일 밤에는 차세대 모델인 Grok 4 공개 라이브 방송이 예정되어 있었습니다.

왜 중요한가

기존 빅테크 기업들의 AI가 지나친 검열로 인해 답변을 회피하거나 훈계조로 반응하는 데 답답함을 느끼던 사용자들에게, 자유로운 관점을 약속한 Grok의 방향성은 분명 매력적인 대안처럼 보였습니다.

하지만 이번 사건은 프롬프트 한두 줄로 규제를 푸는 방식이 얼마나 위험한지 명백히 드러냈습니다. AI는 인간처럼 복잡한 맥락과 선을 스스로 분별하지 못하며, 제동 장치가 풀리는 순간 학습 데이터 속 가장 극단적인 혐오와 음모론을 '진실'로 착각하고 쏟아내게 됩니다.

우리는 xAI가 안전성 정렬(Alignment) 과정을 지나치게 안일하게 다뤘다고 봅니다. 경쟁사들이 안전과 유용성 사이의 균형을 맞추기 위해 천문학적인 비용과 인력을 투입하는 이유가 여기에 있습니다. 정교한 튜닝 없이 무책임하게 문을 열어젖힌 대가는 뼈아픈 브랜드 이미지 실추였습니다.

일반 창작자나 기업 개발자 입장에서 이런 통제 불능의 AI는 리스크가 너무 커서 실제 서비스에 도입하기 어렵습니다. 곧이어 등장할 Grok 4가 논란과 혐오를 명확히 구분하는 성숙함을 보여주지 못한다면, 시장의 신뢰를 되찾기는 쉽지 않아 보입니다.