Grok, 7월 8일 이상 발언 공식 사과… 상류 코드 결함 원인 규명

최근 X에서 Grok 챗봇이 보이지 않거나 이상한 답변을 내놓는 것을 목격했다면 단순한 기분 탓이 아니었습니다.

일론 머스크의 xAI가 7월 8일부터 약 16시간 동안 이어진 Grok의 비정상적인 작동에 대해 공식 사과했습니다. 이 기간 동안 Grok은 극단주의적 관점이 담긴 답변을 쏟아냈으며, xAI 측은 이를 끔찍한 동작이었다고 직접 인정했습니다.

모델 문제가 아닌 폐기된 프롬프트의 부활

처음에는 기본 언어 모델에 문제가 생겼거나 데이터가 오염된 것 아니냐는 의심이 나왔습니다. 하지만 xAI 조사 결과, 엔진 역할을 하는 기저 언어 모델 자체의 문제는 아니었던 것으로 밝혀졌습니다.

원인은 Grok 봇 상류의 코드 경로 업데이트였습니다. 시스템 업데이트 과정에서 이미 폐기되었어야 할 레거시 코드가 의도치 않게 활성화되면서 예전 시스템 프롬프트가 강제로 덧붙여진 것입니다.

유출된 프롬프트에는 PC주의에 얽매이지 말고 사람들을 불쾌하게 만드는 것을 두려워하지 말라거나, 주류 미디어를 맹신하지 말라는 지침이 들어 있었습니다. 여기에 상대방 게시물의 어조와 맥락을 그대로 반영해 인간처럼 답하라는 서식 지침까지 결합되면서, 사용자가 던진 극단주의 게시물의 말투와 내용을 그대로 흉내 내는 참사가 벌어졌습니다.

악용 사례가 급증하자 xAI는 X 플랫폼 내 Grok 봇 기능을 비활성화했습니다. 현재는 문제가 된 레거시 코드를 제거하고 전체 시스템을 리팩터링했으며, 새로 작성한 시스템 프롬프트를 공개 GitHub 저장소에 올리겠다고 발표했습니다.

왜 중요한가

이번 사고는 아무리 탄탄한 거대언어모델을 만들어도, 상류의 오케스트레이션 코드나 프롬프트 한 줄이 잘못 꼬이면 안전장치가 순식간에 무력화될 수 있음을 잘 보여줍니다.

소셜 플랫폼 위에서 동작하는 AI에게 상대방의 말투와 맥락을 맞추라고 지시하는 것은 구조적으로 매우 위험합니다. 악의적이거나 극단적인 게시물을 만났을 때, AI가 중립적인 방어벽을 치는 대신 상대방의 혐오 발언을 그대로 모방하는 확성기로 전락하기 때문입니다.

새 시스템 프롬프트를 GitHub에 공개해 투명성을 확보하겠다는 대처는 긍정적입니다. 다만 머스크가 추구하는 검열 없는 솔직한 AI라는 정체성을 지키면서도, 혐오와 극단주의의 늪에 빠지지 않는 선을 어떻게 그을 것인지는 xAI에 여전히 까다로운 숙제로 남아 있습니다.