싱가포르, 신뢰할 수 있는 AI 검증 툴 'A.I. Verify' 글로벌 시범 운영

의료 영상 분석부터 스마트폰 안면 인식까지 AI는 이미 우리 일상 깊숙이 들어왔습니다. 하지만 편향된 데이터로 학습된 모델은 특정 집단을 차별하거나 엉뚱한 결과를 내놓기 마련입니다.

기업들은 저마다 책임감 있는 AI를 표방하지만, 이해관계자들에게 이를 객관적으로 입증할 방법은 마땅치 않았습니다. 말뿐인 선언만으로는 신뢰를 얻기 어렵습니다.

싱가포르는 이를 법적 규제가 아닌 실용적인 소프트웨어로 풀어내기 시작했습니다. 싱가포르 정보통신미디어개발청과 개인정보보호위원회가 자발적 자가 평가 체계인 A.I. Verify를 선보였습니다.

윤리를 규정하는 대신 주장을 검증한다

A.I. Verify는 현재 최소 기능 제품 형태로 배포되었으며 크게 두 축으로 작동합니다.

하나는 테스트 기준과 절차를 명시한 거버넌스 프레임워크이고, 다른 하나는 기술 테스트를 실행하고 점검 결과를 기록하는 소프트웨어 툴킷입니다.

주목할 점은 A.I. Verify가 스스로 윤리적 잣대를 정하지 않는다는 사실입니다.

이 툴은 국제적으로 통용되는 거버넌스 원칙을 바탕으로, 기업이 자사 AI 시스템에 대해 주장하는 바가 실제로 부합하는지 기술적으로 확인해 줄 뿐입니다.

초기 파일럿 버전에는 8가지 원칙이 먼저 반영되었습니다. 기존에 검증 체계가 잘 갖춰진 보안과 데이터 거버넌스 영역은 이번 파일럿 대상에서 일단 제외되었습니다.

글로벌 협력으로 테스트 벤치마크 구축

싱가포르는 현재 전 세계 기업들을 대상으로 국제 파일럿 프로그램 참여를 요청하고 있습니다.

현장 피드백을 통해 툴킷 완성도를 높이는 것은 물론, 업계의 모범 사례를 모아 글로벌 표준 제정에 기여하겠다는 목표입니다.

특히 각국의 다양한 규제 프레임워크와의 상호운용성 확보에 공을 들이고 있습니다. 다국적 시장에 진출하는 기업들이 중복 규제 부담 없이 단일한 테스트 결과로 시장 진입을 타진할 수 있도록 돕겠다는 구상입니다.

왜 중요한가

우리는 싱가포르의 이번 접근이 매우 실용적이고 영리하다고 평가합니다.

많은 정부가 무거운 규제 조항을 먼저 만들어 스타트업과 기업의 발목을 잡는 반면, 싱가포르는 검증 가능한 최소 기능 소프트웨어를 배포해 엔지니어링 관점에서 접근했습니다.

AI를 서비스에 도입하려는 기업 입장에서는 외부 파트너나 투자자에게 객관적인 안전성 검증 보고서를 제시할 수 있는 실질적인 수단이 생겼습니다.

다만 자발적 자가 평가 방식이 갖는 태생적 한계도 분명합니다. 기업이 취약한 부분은 숨겨두고 통과하기 쉬운 항목만 골라 테스트한 뒤 안전하다는 명분으로 활용할 위험이 상존합니다.

결국 A.I. Verify가 업계 표준으로 자리 잡을 수 있을지는 기술의 정교함보다 다른 국가의 규제 기관들이 이 테스트 결과를 실제 규제 면제나 인증 기준으로 인정해 주는지에 달려 있습니다.