미 연방기관의 안전성 경고에도 펜타곤, xAI '그록' 기밀 사용 승인

미 국방부(펜타곤)가 일론 머스크의 인공지능 기업 xAI의 챗봇 '그록(Grok)'을 기밀 환경에서 사용하도록 승인한 가운데, 이에 앞서 여러 연방 기관들이 그록의 안전성에 심각한 경고를 보냈던 것으로 드러났습니다.

월스트리트저널(WSJ)에 따르면 복수의 연방 기관 관계자들은 최근 몇 달 동안 xAI 도구의 안전성과 신뢰성에 대해 지속적으로 우려를 제기해 왔습니다. 하지만 펜타곤은 이번 주, 이 같은 경고를 뒤로하고 국가의 가장 민감한 작전 환경에 그록을 전격 도입하기로 결정했습니다.

33쪽짜리 보고서에 담긴 위험 경고

가장 강력하게 문제를 제기한 곳 중 하나는 연방 조달을 담당하는 일반조달청(GSA)이었습니다.

WSJ가 입수한 1월 15일 자 GSA 보고서 요약본에 따르면, 'Grok-4'는 GSA 내부 및 연방 실험용 AI 플랫폼의 범용 사용에 필요한 안전 및 정렬(alignment) 기준을 충족하지 못한 것으로 나타났습니다.

총 33쪽에 달하는 전체 보고서는 대중 안전 관련 사건들과 GSA 자체 테스트 결과를 구체적으로 다뤘습니다. 보고서는 정부 내에서 제한적으로 사용하더라도 엄격하고 다층적인 안전 감독이 필수적이며, 그렇지 않을 경우 감당하기 어려운 높은 수준의 안전 위험을 초래할 것이라고 결론지었습니다.

갈라선 정부 내부 시각

여러 기관의 관료들이 경고음을 냈음에도 불구하고, 펜타곤은 이번 주 결정을 통해 xAI를 국가 최고 기밀 작전의 핵심에 배치했습니다.

어떤 AI 모델을 국가 시스템에 배치할 것인지를 두고 미국 정부 내부의 시각차가 얼마나 극명하게 갈리고 있는지를 보여주는 대목입니다.

왜 중요한가

이번 사안은 최첨단 기술을 군사 영역에 빠르게 도입하려는 안보 부서와 기술적 검증을 중시하는 조달 부서 간의 전형적인 충돌을 보여줍니다.

우리가 보기에 국방부는 기술 경쟁력 확보를 최우선에 둔 것으로 보이지만, GSA가 밝힌 것처럼 정렬과 안전성 기준에 미달하는 모델을 기밀 환경에 배치하는 것은 분명한 부담을 안고 가는 선택입니다. 다층 감시 체계 없이는 위험하다는 지적이 나온 도구를 그대로 들여보낸 셈입니다.

기업이나 개발자 입장에서도 이 뉴스는 중요한 시사점을 줍니다. 정부 기관이 공식 채택했다고 해서 해당 모델이 무조건 안전하다는 보증 수표는 아니라는 점입니다. 자체적인 가드레일과 검증 없이 고위험 업무에 투입할 경우 시스템 불안정성 위험이 언제든 불거질 수 있습니다.

xAI는 국방 기밀 계약이라는 강력한 시장 진입권을 따냈지만, 내부 반발을 딛고 들어간 만큼 리스크도 함께 짊어지게 되었습니다. 만약 기밀 작전에서 오작동이나 안전 문제가 발생할 경우, xAI뿐 아니라 공공 부문 AI 채택 전반에 걸쳐 신뢰도 타격이 불가피할 것으로 보입니다.