美 회계감사원, 정부 기관 AI 도입 속도전에 경고…구매·안전 지침은 수년째 지연

민간 테크 기업들을 향해 인공지능의 위험성을 경고하며 규제안을 쏟아내던 미국 정부가, 정작 내부에서는 최소한의 가이드라인도 없이 AI를 무분별하게 도입해 온 실태가 드러났습니다.

미국 정부책임처(GAO)는 법무부와 국토안보부 등 23개 비군사 연방 기관을 전수 조사한 96쪽 분량의 감사 보고서를 발표했습니다. 연방정부 차원의 AI 구매 및 사용 표준이 부재해 국가 안보와 국민 권익이 위협받고 있다는 지적입니다.

늘어나는 도입, 비공개로 숨긴 350개 프로젝트

보고서에 따르면 현재 연방기관이 실제로 운용 중인 AI 사례는 228건에 달하며, 이 중 절반 가까이가 최근 1년 사이에 서둘러 도입되었습니다. 현재 기획 중인 사업까지 합치면 전체 규모는 1241건으로 치솟습니다.

전체 용도의 약 70%는 비교적 안전한 과학 연구나 내부 행정 업무에 쏠려 있습니다. 미 항공우주국(NASA)은 전 세계 화산 활동을 감시하는 데 머신러닝을 쓰고 있으며, 상무부는 산불 추적과 드론 항공사진 속 물개나 바닷새 개체 수를 세는 용도로 AI를 투입하고 있습니다.

문제는 투명성입니다. 연방 기관들은 총 1241건의 AI 사업 중 약 70%만 대외에 공개하고, 350건 이상의 사업은 민감하다는 이유로 공개를 거부했습니다. 국무부의 경우 등록한 71건의 AI 용도 중 단 10건만 공개하고 나머지 61건은 감췄습니다.

특히 사법 기관의 사용을 둘러싸고 비판이 거셉니다. 법무부와 국토안보부가 보고한 AI 용도는 총 25건으로 NASA(390건)나 상무부(285건)에 비해 적지만, 안면인식 기술이나 국경 카메라 감시처럼 인권 침해 소지가 큰 영역에 몰려 있습니다. GAO는 지난 9월 조사에서 6개 연방 법집행기관이 수행한 수천 건의 안면인식 검색 중 95%가 적절한 사전 교육도 받지 않은 담당자에 의해 실행됐다고 고발한 바 있습니다.

2년 늦어진 지침과 무대책 행정

기술 도입 속도에 비해 규제 행정은 심각하게 뒤처져 있습니다. 백악관 관리예산국(OMB)은 2020년 제정된 연방법에 따라 2021년 9월까지 정부 공통 AI 조달 가이드라인을 배포했어야 했지만, 이를 2년 넘게 방치하다 지난달 바이든 대통령의 AI 행정명령 발표 이후에야 초안을 겨우 내놨습니다.

연방 인사관리처(OPM) 역시 향후 5년간 정부에 필요한 AI 인력 수요 예측치를 기한 내에 내놓지 못했습니다. 재무부와 교육부를 포함한 10개 부처는 도입된 AI 목록을 주기적으로 업데이트할 체계조차 갖추지 않은 상태였습니다.

왜 중요한가

이번 감사는 미국 정부의 AI 정책이 지닌 거대한 모순을 꼬집었습니다. 빅테크 기업에는 자발적 안전 서약과 모델 테스트 결과 공개를 강력히 요구하면서, 정작 정부 스스로는 훈련받지 않은 요원들이 상용 안면인식 알고리즘을 현장에 돌리도록 방치해 왔기 때문입니다.

공공 조달 시장을 노리는 AI 개발사들에게도 적신호입니다. 공공 부문 수요는 폭발하고 있지만, 통일된 안전 및 구매 규정이 없는 상태에서 일선 기관들의 졸속 도입이 이어지면 오인 체포나 차별 같은 사고가 터졌을 때 기술 전체가 역풍을 맞기 쉽습니다. 정부 납품을 준비하는 기업이라면 기능 구현보다 편향성 검증과 데이터 추적성 같은 감사 대응력을 먼저 확보해야 할 시점입니다.