OpenAI, 국가안보 원칙 발표…자율무기·대규모 감시 사용 금지

실리콘밸리 빅테크 기업들이 사내 반발과 대중적 비판을 의식해 국방 협력을 꺼리던 시대는 사실상 지나갔습니다. OpenAI는 이제 국방 및 안보 분야 협력을 숨기지 않고, 오히려 지켜야 할 원칙을 공개적으로 명문화하고 나섰습니다.

OpenAI는 정부 및 국가안보 분야에서 자사 기술이 어떻게 쓰일 수 있고 무엇이 금지되는지를 규정한 국가안보 원칙을 공식 발표했습니다.

넘지 말아야 할 세 가지 레드라인

OpenAI는 이번 원칙을 수립하기 위해 국가안보 전문가인 David Kris를 영입해 독립적인 판단을 구했으며, 연구, 안전, 정책, 정부 파트너십 등 사내 다양한 부서와 폭넓은 내부 논의를 진행했습니다.

그 결과 도출된 핵심 제한 사항은 세 가지입니다. 국내 대규모 감시에 대한 사용 금지, 자율 무기 체계 지휘 금지, 중대한 이해관계가 걸린 고위험 의사결정의 자동화 금지입니다.

이러한 제한은 미국 전쟁부와 맺은 기존 협약에도 이미 반영되어 있던 내용이며, 이번 발표를 통해 공식적인 공개 원칙으로 자리 잡게 되었습니다.

OpenAI는 국내 감시나 자율 무기 같은 민감한 사안은 기업이 임의로 결정할 것이 아니라 민주적 입법 절차를 통해 규제되어야 한다며, 고위험 군사 AI에 대한 안전장치 입법을 적극 지지한다고 밝혔습니다.

동맹국 연대와 방어 전용 모델 확대

금지선을 명확히 긋는 동시에, OpenAI는 서방 동맹국들과의 방어적 안보 협력을 빠르게 확장하고 있습니다.

사이버 방어 프로젝트인 Daybreak 프로그램의 일환으로, 지난 한 달 동안 한국, 미국, 호주, 캐나다, 일본, 프랑스, 독일, 폴란드, 네덜란드 및 유럽연합 ENISA 등 9개 동맹국 및 기관과 사이버 신뢰 접근 파트너십을 체결했습니다.

영국 정부와도 사이버 보안, 테스트 및 평가를 중심으로 파트너십을 심화하고 있습니다.

생물안보 분야에서도 지난달 공중보건 및 생물방어 임무를 지원하기 위해 미국 정부 및 주요 동맹국 파트너를 대상으로 GPT-Rosalind 모델에 대한 신뢰 접근 권한을 확대한 바 있습니다.

왜 중요한가

일반 개발자와 이용자 관점에서 볼 때, 첨단 AI 모델의 유통 경로가 이원화되고 있음을 보여줍니다. GPT-Rosalind와 같은 생물방어 특화 고성능 모델은 일반 대중에게 공개되지 않고 검증된 국가 기관의 통제 아래에서만 쓰이게 됩니다.

업계 전반으로 보면 OpenAI의 행보는 대단히 치밀합니다. 자율 무기와 대규모 감시라는 인권적 반발 요소를 원천 차단함으로써 도덕적 논란을 잠재우는 동시에, 사이버 및 생물 방어라는 명분으로 서방 주요국 정부의 안보 인프라에 자사 기술을 안착시키고 있습니다.

한국을 비롯한 주요 동맹국들과 연합 전선을 구축함으로써 오픈소스나 후발 주자들이 쉽게 넘볼 수 없는 강력한 규제 및 신뢰 장벽을 세운 셈입니다.

다만 우리가 보기에 정보 분석 지원과 고위험 의사결정 자동화 사이의 경계는 실제 군사·안보 작전 현장에서 매우 모호해지기 쉽습니다. 외부 감사나 법적 구속력이 담보되지 않은 상태에서 기업의 자체 원칙 선언만으로 이 선을 끝까지 지켜낼 수 있을지는 여전히 의문으로 남습니다.