OpenAI, 안보 분야 AI 감시 기구에 500만 달러 지원

정부가 사이버 공격 방어나 국가 인프라 보호에 AI를 발 빠르게 도입하고 있지만, 이를 감독해야 할 기구들은 여전히 과거의 수작업 검토 방식에 머물러 있는 것이 현실입니다.

기계의 속도로 작동하는 결정을 사람이 일일이 감시하기란 사실상 불가능합니다. 이에 OpenAI는 국가안보 분야의 AI 활용을 감시하는 민주적 감독 기관을 지원하기 위해 500만 달러 규모의 지원책을 발표했습니다.

향후 1년간 인가된 정부 감독 기관을 대상으로 교육 훈련과 기술 지원, 그리고 OpenAI 플랫폼 크레딧을 제공한다는 구상입니다.

결정 과정의 기록을 들여다보는 도구

국가안보 분야의 의사결정은 기밀을 수반하며 중대한 결과를 초래합니다. 잘못된 가정이나 누락된 맥락을 바탕으로 AI가 대규모로 오작동할 경우, 사후 적발이 극도로 어렵습니다.

OpenAI는 감독관들이 AI 지원 의사결정 기록을 체계적으로 들여다볼 수 있는 파일럿 도구를 개발할 계획입니다. 모델에 들어간 입력값과 출력 결과는 물론, 시스템이 어떤 도구를 호출해 실행했는지까지 추적할 수 있도록 돕습니다.

민감한 영역인 만큼 선도 명확히 그었습니다. 해당 도구는 특정 AI 모델에 종속되지 않도록 설계되며, 모든 조사 결과와 데이터의 통제권은 정부 감독 기관에만 귀속됩니다. OpenAI 측은 정부를 직접 감독할 권한도 없으며 데이터에 접근하지도 않겠다고 강조했습니다.

왜 중요한가

이번 조치는 비즈니스와 규제 대응 측면에서 상당히 영리한 포석으로 보입니다.

AI 기업들이 공공과 방위 시장으로 영역을 확장할 때 마주하는 가장 큰 장벽은 불투명한 의사결정에 대한 공공의 불신입니다. 감시자 역할을 하는 기관에 직접 도구와 자금을 쥐여주며 안전장치를 자처함으로써, 향후 공공 계약 수주에 필요한 정당성을 미리 확보하는 셈입니다.

감사 인력 입장에서도 실질적인 도움이 될 수 있습니다. 복잡한 에이전트의 작동 경로를 추적할 기술적 역량이 부족한 상황에서, 입력과 출력 및 도구 사용 기록을 분해해 볼 수 있는 표준 도구는 유용한 무기가 됩니다. 특정 모델에 얽매이지 않겠다고 한 점도 긍정적입니다.

하지만 감시를 받아야 할 기술을 공급하는 거대 기업이 감시자의 도구와 교육까지 도맡는 구조는 경계할 필요가 있습니다. 감독 기관의 기술적 시각이 특정 기업의 프레임워크에 익숙해질 경우, 진정한 의미의 독립적인 견제가 장기적으로 유지될 수 있을지는 여전히 지켜볼 대목입니다.