바이든 미 대통령, AI 행정명령 서명: 최고 성능 모델 안전 검증 의무화

AI 기업들이 자체 기준에 맞춰 모델을 검증하고 배포하던 관행에 제동이 걸렸습니다.

조 바이든 미국 대통령은 안전하고 신뢰할 수 있는 인공지능에 관한 행정명령에 서명했습니다. 이는 인공지능을 직접 겨냥한 미국 역사상 최초의 행정명령입니다. 바이든 대통령은 서명식에서 "다른 방법은 없다. 내 생각에 AI는 반드시 규제되어야 한다"고 강조했습니다.

국방물자생산법 발동, 훈련 단계부터 정부 보고 의무화

이번 조치의 핵심은 냉전 시대 법안인 국방물자생산법(Defense Production Act)을 동원했다는 점입니다.

국가 안보, 경제 안보, 공중보건 및 안전에 중대한 위험을 초래할 수 있는 파운데이션 모델을 개발하는 기업은 모델 학습 단계부터 연방 정부에 알려야 합니다. 또한 모델을 대중에 공개하기 전 거친 모든 레드팀(Red-team) 안전 테스트 결과를 정부에 의무적으로 공유해야 합니다.

평가 기준 마련을 위해 미국 국립표준기술연구소(NIST)가 엄격한 안전 테스트 표준을 수립합니다. 국토안보부(DHS)는 'AI 안전·보안 위원회'를 신설하고 에너지부와 협력해 주요 인프라, 사이버 안보, 화학·생물학적 위험을 방어할 표준을 적용하기로 했습니다.

생성형 AI를 악용한 딥페이크와 사기 방지책도 포함되었습니다. 상무부는 AI 생성 콘텐츠를 식별하고 공식 정보를 인증하기 위한 워터마크 가이드라인을 개발하며, 연방 정부 기관들이 이를 우선 도입해 공식 소통의 신뢰성을 확보할 방침입니다.

정부 조달 기업에 쏟아지는 시한부 규제

이번 행정명령은 빅테크뿐만 아니라 연방 정부와 계약을 맺는 수많은 수탁 기업에도 즉각적인 영향을 미칩니다.

백악관 관리예산국(OMB)은 명령 발표 후 150일 이내에 연방 데이터를 활용하는 계약 업체의 AI 활용 가이드라인을 마련해야 합니다. 이어 180일 이내에는 정부 AI 시스템 조달 시 프라이버시와 시민권을 보호하기 위한 상세 계약 지침을 내놓아야 합니다. 보건복지부(HHS) 역시 180일 이내에 연방 지원을 받는 의료 기관의 AI 차별 방지 지침을 수립해야 합니다.

일자리와 노동 감시 문제도 다뤘습니다. 노동부는 365일 이내에 연방 정부 계약 기업의 AI 채용 차별 방지 지침을 발표해야 합니다. 행정명령은 근로자에 대한 과도한 AI 감시나 노동 환경 악화를 엄격히 경고하며, AI로 인한 고용 대체 영향을 노동부 장관이 지속적으로 모니터링하도록 했습니다.

왜 중요한가

이번 행정명령은 AI 업계의 '자율 규제' 시대가 공식적으로 끝났음을 알리는 신호탄입니다. 백악관이 지난 몇 달간 15개 주요 기업으로부터 자발적 서약을 받아냈지만, 선언적 약속만으로는 한계가 있다고 판단해 국방물자생산법이라는 강력한 강제 수단을 꺼내 든 셈입니다.

일반 이용자나 소규모 스타트업이 당장 서비스를 쓰지 못하게 되는 것은 아닙니다. 하지만 최전선의 강력한 파운데이션 모델들은 출시 전 정부의 검증대를 반드시 거쳐야 합니다. 특히 정부 조달이나 의료, 인프라 분야를 대상으로 AI 솔루션을 납품하는 기업이라면, 150일에서 180일 뒤 구체화될 연방 구매 요건에 맞춰 컴플라이언스 비용을 즉시 계산해 두어야 합니다.

우리가 보기에 바이든 행정부의 접근법은 입법이 지연되는 의회를 우회해 연방 정부의 막대한 구매력과 행정 권한으로 사실상의 시장 표준을 선점하려는 현실적이고 영리한 선택입니다. 하지만 어떤 기술적 수준이 '국가 안보에 심각한 위협'인지에 대한 법적 경계가 모호하다는 점은 논란거리입니다. 더욱이 행정명령은 차기 행정부의 서명 하나로 뒤집힐 수 있는 태생적 한계가 있어, 이번 조치가 장기적인 제도적 안정성을 담보할 수 있을지는 향후 각 부처가 내놓을 세부 규정의 정교함에 달려 있습니다.