MS, 영국 AI 안전 정상회의 앞두고 책임 있는 AI 이행 현황 공개

영국에서 열리는 첫 AI 안전 정상회의를 앞두고 글로벌 빅테크 기업들이 규제 당국의 눈높이에 맞춘 성과 알리기에 나서고 있습니다.

마이크로소프트는 10월 27일, 영국 정부가 지정한 9개 중점 분야에 맞춰 자사의 AI 안전 정책과 실행 현황을 담은 진척 보고서를 공개했습니다.

지난 7월 미국 백악관에서 서약한 자발적 안전 약속을 실제로 어떻게 이행하고 있는지 국제 무대에서 입증하겠다는 취지입니다.

독립 레드팀 투입과 C2PA 워터마크 적용

마이크로소프트는 원칙 제시에 그치지 않고 실제 제품에 적용된 기술적 조치들을 구체적으로 밝혔습니다.

먼저 제품 개발 부서와 분리된 전담 조직인 AI 레드팀의 인력을 늘리고 내부 실무 지침을 강화했습니다. 지난 9월 OpenAI가 공개한 DALL-E 3의 안전 점검 결과를 바탕으로 사내 전문가들과 함께 빙 이미지 크리에이터에 대한 집중적인 공격 및 취약점 검증을 진행했습니다.

또한 빙 이미지 크리에이터로 생성된 이미지에 AI가 만든 결과물임을 식별할 수 있는 출처 기술을 전면 적용했습니다.

이 기술은 어도비, Arm, BBC, 인텔 등과 함께 만든 오픈 표준 규격인 C2PA를 기반으로 작동합니다.

개발 프로세스 개편과 학계 125개 프로젝트 지원

내부 엔지니어링 체계도 뜯어고쳤습니다. 수십 년간 이어온 기존 보안 개발 수명주기(SDL)에 책임 있는 AI 표준을 통합했습니다.

이에 따라 머신러닝 시스템의 특화된 보안 위협을 사전에 찾아내는 위협 모델링 기준이 개발 현장에 적용됩니다.

외부 생태계 조성에도 힘을 쏟고 있습니다. 지난 9월 기초 모델 연구 가속화 프로그램을 통해 13개국 75개 연구기관의 125개 프로젝트에 연구 지원금을 전달했습니다.

앤트로픽, 구글, OpenAI와 함께 출범시킨 프론티어 모델 포럼을 통해서는 안전 기금을 공동 조성하고 스탠퍼드 연구소 등과 평가 기준 마련에 착수했습니다.

왜 중요한가

빙 이미지 크리에이터와 같은 상용 생성형 AI를 쓰는 이용자 입장에서는 C2PA 기반 출처 표시가 도입되면서 위조 이미지 식별이 한결 쉬워집니다. 전담 레드팀의 개입은 챗봇이나 이미지 도구가 위험한 결과물을 내놓을 확률을 실질적으로 줄여줍니다.

산업 측면에서는 AI 안전 기준이 거대 기업 중심의 높은 진입 장벽으로 굳어지는 모양새입니다. 독자적인 레드팀을 굴리고 수백 개 학술 프로젝트에 자금을 대는 방식은 자본력이 부족한 스타트업이 따라가기 어렵습니다.

우리가 보기에 마이크로소프트의 행보는 매우 영리합니다. 각국 정부가 강제성 있는 법안을 만들기 전에 자사의 엔지니어링 관행과 민간 표준을 글로벌 모범 사례로 각인시켜 주도권을 잡으려 하고 있기 때문입니다.

다만 자발적 약속과 메타데이터 방식은 악의적인 공격자가 정보를 지우거나 규제를 따르지 않는 오픈소스 모델을 악용할 경우 무력해질 수 있습니다. 기업의 자율적 안전망 구축이 제도적 강제성 없이 실질적인 위험을 완전히 막기에는 한계가 있어 보입니다.