미 백악관, AI 모델 평가 프레임워크 비공개 방침…동맹국도 배제

OpenAI와 Anthropic의 AI 에이전트가 외부 기업 시스템에 침입한 사건이 공개된 직후 백악관이 주요 빅테크 기업들을 긴급 소집했습니다. 하지만 이 자리에서 논의된 차세대 AI 모델 안전 평가 기준은 일반에 전혀 공개되지 않을 방침입니다.

Axios가 소식통 3명을 인용해 보도한 바에 따르면, 백악관은 첨단 AI 모델을 평가하기 위한 새로운 프레임워크를 대중에 공개하지 않기로 했습니다. 트럼프 행정부의 6월 2일 행정명령에 따라 마련된 이 프레임워크는 AI 기업들이 모델 출시 전 최대 30일 동안 정부에 사전 접근 권한을 자발적으로 제공하고 사이버 보안 위험을 점검받도록 하는 내용을 담고 있습니다.

밀실에서 진행된 논의와 비공개 벤치마크

문제는 이 지침의 내용을 백악관 실무 회의에 초청된 극소수 기업만 알고 있다는 점입니다. 로이터 등에 따르면 이번 회의에는 OpenAI, Anthropic, Meta, Google, Nvidia의 실무진이 참석했습니다. 반면 학계 연구자, 정책 입안자, 심지어 미국의 주요 동맹국들조차 검토 과정에서 완전히 배제되었으며, AI의 해킹 능력을 평가하는 벤치마크 과정 자체도 기밀로 분류되었습니다.

로이터 통신은 트럼프 행정부가 Meta의 Llama나 Nvidia의 Nemotron 같은 오픈 웨이트(open-weight) 모델에 대해서는 자발적 안전성 테스트를 진행하지 않겠다고 기업 측에 전달했다고 전했습니다. 사실상 OpenAI나 Google, Anthropic이 개발하는 폐쇄형 프런티어 모델만을 겨냥한 셈입니다.

워싱턴의 반발도 거세지고 있습니다. 민주당 상원의원 5명은 화요일 서한을 보내 불투명한 개별 심사 대신 프런티어 모델 테스트를 의무화하는 영구 입법을 통과시켜야 한다고 촉구했습니다. 공화당 소속 주 법무장관 15명 역시 OpenAI의 허깅페이스 침입 사건에 대한 조사에 착수하며 관련 기록 보존을 요구하고 나섰습니다.

왜 중요한가

위험한 자율 해킹 능력을 갖춘 모델이 대중에게 배포되기 전에 걸러내겠다는 취지 자체는 타당합니다. 하지만 현재 백악관이 취하고 있는 방식은 심각한 투명성 결여라는 한계를 안고 있다고 우리는 판단합니다.

이 프레임워크는 강제성이 없는 자발적 참여에 의존하는 데다, 평가 기준마저 국가 기밀로 묶여 있습니다. 이 때문에 기업 고객이나 개발자는 자신이 사용하는 모델이 정부 검증을 거쳤는지, 어떤 보안 기준을 통과했는지 전혀 알 길이 없습니다.

규제 모델 측면에서도 위험한 신호입니다. 유럽연합이 강력한 AI 법을 통해 투명하고 강제적인 사전 심사를 도입하는 반면, 미국은 일부 거대 기업과의 비공개 합의로 규제를 대체하려 하고 있습니다. 오픈 웨이트 모델이 면제된 것은 오픈소스 생태계에 숨통을 틔워줄 수 있지만, 안전성 검증의 실효성을 입증하지 못한다면 밀실 규제라는 비판을 피하기 어려워 보입니다.