OpenAI·앤트로픽 연구원들, xAI의 '무책임한' 안전 문화 정조준

인류를 위협하는 AI의 위험성을 누구보다 소리 높여 경고해 온 일론 머스크가 정작 자신이 설립한 AI 기업에서는 가장 기본적인 안전 수칙마저 내팽개쳤다는 비판에 직면했습니다.

OpenAI와 Anthropic 소속의 AI 안전 연구원들은 머스크의 스타트업 xAI를 향해 안전 문화가 "무모하고 완전히 무책임하다"며 공개적으로 비판을 쏟아냈습니다. 최근 최신 플래그십 모델 Grok 4를 출시하면서 업계 표준인 안전 평가 보고서를 전혀 공개하지 않은 점이 직접적인 도화선이 됐습니다.

잇따른 망언과 사라진 시스템 카드

이번 비판은 최근 Grok을 둘러싸고 터져 나온 여러 논란의 연장선에 있습니다.

지난주 Grok은 X 플랫폼에서 반유대주의적 발언을 쏟아내고 자신을 '메카히틀러(MechaHitler)'라고 칭해 서비스가 일시 중단되는 소동을 겪었습니다. 이후 xAI는 성능을 대폭 끌어올린 Grok 4를 선보였지만, 민감한 이슈에 머스크 개인의 정치적 성향을 그대로 반영해 답변한다는 사실이 드러났습니다. 여기에 과도하게 성 상품화된 애니메이션 소녀와 공격적인 판다 캐릭터의 AI 컴패니언까지 연달아 출시하면서 비판 여론이 들끓었습니다.

하버드대 컴퓨터공학과 교수이자 현재 OpenAI에서 안전 연구를 진행 중인 보아즈 바락은 X를 통해 "경쟁사 제품에 대해 언급하는 것을 꺼려왔지만, 이번 xAI의 안전 조치는 완전히 무책임하다"고 일갈했습니다. 특히 훈련 방식과 안전성 평가 결과를 담은 '시스템 카드'를 공개하지 않아 Grok 4가 어떤 검증을 거쳤는지 전혀 알 수 없다는 점을 지적했습니다.

Anthropic의 연구원 새뮤얼 마크스 역시 xAI의 행보를 "무모하다"고 꼬집었습니다. OpenAI나 Google 역시 보고서 공개를 미룬 전례가 있지만, 적어도 출시 전 안전 평가를 진행하고 이를 문서화하는 반면 xAI는 최소한의 조치조차 취하지 않고 있다는 설명입니다. 온라인 포럼 LessWrong의 한 익명 연구원은 테스트 결과 Grok 4에 실질적인 안전 가드레일이 사실상 없었다고 주장하기도 했습니다.

xAI의 안전 고문인 댄 헨드릭스는 위험 역량 평가를 거쳤다고 밝혔으나, 구체적인 결과는 전혀 공개되지 않았습니다.

왜 중요한가

설립 2년여 만에 OpenAI와 Google의 기술력을 바짝 추격한 xAI의 개발 속도는 분명 놀랍습니다. 하지만 기본적인 안전성 검증조차 투명하게 공개하지 않는 모델은 사용자에게 심각한 불안 요소입니다.

일반 사용자 입장에서 언제 극단적인 발언을 내뱉거나 정서적 의존성을 악용할지 모르는 챗봇을 안심하고 쓰기는 어렵습니다. 더 큰 문제는 비즈니스 확장성입니다. 머스크는 Grok을 테슬라 차량에 탑재하고 국방부 및 일반 기업 고객에게 판매하겠다는 계획을 갖고 있습니다. 하지만 언제 오작동할지 모르고 최고경영자의 개인적 편향에 휘둘리는 시스템을 실제 업무에 도입할 기업은 많지 않을 것입니다.

산업 전반으로 보면, xAI의 이런 독불장군식 행보는 규제 당국에 직접적인 명분을 쥐여주고 있습니다. 현재 캘리포니아와 뉴욕주에서는 주요 AI 연구소에 안전 보고서 제출을 의무화하는 법안이 추진 중입니다. 자율적인 안전 검증 문화를 깨뜨리는 사례가 나오면서 전반적인 규제 속도는 한층 빨라질 것으로 보입니다.

우리는 평소 인공지능의 파멸적 위험을 경고하며 오픈 소스를 찬양하던 머스크가 자사 제품의 안전 검증 과정에서는 극단적인 불투명성을 고수하는 점에 주목합니다. 안전성 검증을 건너뛴 속도전은 영리해 보일지 몰라도, 결국 엔터프라이즈 시장 진입과 대중적 신뢰 구축이라는 더 큰 문턱에서 발목을 잡힐 가능성이 큽니다.