미·영 등 18개국 합의: AI '설계 단계부터 보안' 가이드라인 발표

새로운 AI 모델이 쏟아지는 와중에 기업들의 관심은 온통 더 빠른 속도와 저렴한 가격, 화려한 기능에만 쏠려 있었습니다. 하지만 기본 안전망이 허술한 기술은 해커의 손에 들어가는 순간 치명적인 무기로 돌변합니다.

미국과 영국을 비롯한 18개국은 악의적인 공격자로부터 인공지능을 보호하기 위해 기업들이 기술 개발 초기부터 안전을 고려해야 한다는 내용의 20페이지짜리 국제 합의 가이드라인을 공개했습니다. 핵심은 바로 '설계부터 안전하게(secure by design)'입니다.

기능 경쟁보다 보안이 먼저라는 선언

이번 지침에는 미국과 영국 외에도 독일, 이탈리아, 호주, 싱가포르, 칠레, 나이지리아 등이 서명했습니다. 더버지 보도에 따르면 중국은 서명국 명단에서 제외되었습니다.

미국 사이버안보·인프라보안국(CISA)의 젠 이스터리 국장은 로이터와의 인터뷰에서 멋진 기능과 출시 속도, 비용 절감 경쟁보다 설계 단계의 보안이 최우선이라는 점을 여러 국가가 함께 확인한 것은 이번이 처음이라고 밝혔습니다.

가이드라인은 AI 시스템의 오남용 모니터링, 데이터 위변조 방지, 소프트웨어 공급업체 검증, 적절한 보안 테스트를 거친 후의 모델 출시 등을 권고하고 있습니다. 하지만 법적 구속력이 없는 일반적인 권고 수준에 불과합니다.

또한 모델 훈련에 사용되는 데이터를 어떻게 수집했는지, AI의 적절한 사용 범위가 어디까지인지 같은 민감한 쟁점은 다루지 않았습니다.

왜 중요한가

기업과 개발자 관점에서 이 가이드라인은 향후 글로벌 B2B 시장의 기준선이 어디로 향하는지 보여줍니다. 비록 강제성은 없지만, 글로벌 기업이나 정부를 고객으로 두려는 AI 기업은 공급망 보안과 데이터 변조 방지 능력을 입증해야 하는 보이지 않는 장벽을 마주하게 될 가능성이 높습니다.

업계 전반에는 기능 벤치마크 일변도의 출혈 경쟁에 경종을 울리는 효과가 있습니다. 보안이 취약한 AI는 기업 고객이 실제 업무에 도입할 수 없기 때문에, 엔지니어링의 신뢰성이 차별화 요소로 부각될 것입니다.

하지만 우리가 보기에 이번 합의는 갈 길이 멉니다. 데이터 저작권이나 실제 규제 집행 등 빅테크와 첨예하게 부딪히는 사안을 모두 피해 간 채 신사협정 수준에 머물렀기 때문입니다. 강제성 없는 권고만으로 속도전에 매몰된 시장의 관행을 얼마나 바꿀 수 있을지는 지켜볼 필요가 있습니다.