구글·마이크로소프트·xAI, 신규 AI 모델 출시 전 美 정부 검토 받는다

최신 거대 AI 모델을 세상에 내놓기 전, 미국 정부의 사전 점검을 거치는 체계가 완성 단계에 접어들었다.

사전 검토 대열에 합류한 구글·MS·xAI

미국 상무부 산하 AI 표준·혁신 센터(CAISI)는 구글 딥마인드, 마이크로소프트, 일론 머스크의 xAI와 신규 모델 출시 전 평가를 진행하기로 합의했다고 발표했다. 프론티어 AI의 역량과 국가 안보에 미칠 영향을 사전에 따져보기 위한 연구와 검증을 맡는다.

CAISI의 사전 검토는 이번이 처음이 아니다. 2024년부터 오픈AI, 앤트로픽과 협력해 왔으며 지금까지 총 40차례의 모델 검토를 마쳤다.

블룸버그에 따르면 오픈AI와 앤트로픽은 도널드 트럼프 대통령의 'AI 행동 계획' 우선순위에 발맞추기 위해 CAISI와의 기존 파트너십 조건을 재협상했다.

정부 차원의 관여는 더 늘어날 전망이다. 뉴욕타임스는 트럼프 대통령이 빅테크 경영진과 정부 관료를 한데 모아 신규 AI 모델을 감독하는 행정명령을 검토 중이라고 전했다.

왜 중요한가

이번 합의로 미국의 핵심 프론티어 AI 개발사 전체가 사실상 하나의 사전 검토 체계 안으로 들어오게 됐다.

일반 이용자나 개발자가 당장 쓰는 API에 변화가 생기지는 않겠지만, 차세대 프론티어 모델의 출시 주기가 다소 길어지거나 고위험 기능에 대한 접근 통제가 더 엄격해질 수 있다.

빅테크 기업 입장에서는 예측할 수 없는 강제 입법을 피하고 자율 협력 형태를 취하는 편이 실리적이라고 판단한 것으로 보인다.

다만 CAISI의 검토 기준이 백악관의 행정 우선순위에 맞춰 조정되고 있는 점은 주시할 대목이다. 기술적 안전 평가가 정부 정책 기조와 얽히기 시작하면 객관적인 기준 유지가 까다로워질 수 있다.