애플, 백악관 AI 안전 서약 공식 동참

20억 대의 기기에 AI를 배포하기 직전, Apple이 먼저 워싱턴을 찾아 고개를 끄덕였습니다.

백악관은 보도자료를 통해 Apple이 안전하고 신뢰할 수 있는 인공지능 개발을 위한 행정부의 자발적 안전 서약에 공식 서명했다고 발표했습니다. 자체 기준만을 고집하던 Apple도 마침내 빅테크 AI 규제 울타리 안으로 들어왔습니다.

해당 서약에는 이미 2023년 7월 Amazon, Anthropic, Google, Meta, Microsoft, OpenAI 등 15개 기업이 서명한 바 있습니다. 당시만 해도 Apple은 생성형 AI 계획을 철저히 숨겼으나, 지난 6월 WWDC에서 ChatGPT 연동을 비롯한 Apple Intelligence를 전면에 내세우면서 더 이상 규제 당국의 시선을 피할 수 없게 되었습니다.

서약서에 담긴 3가지 핵심 규칙

비록 법적 강제성이 없는 자발적 약속이지만, 백악관이 요구한 세부 지침은 꽤 구체적입니다.

첫째, 모델을 외부에 공개하기 전에 적대적 공격을 시뮬레이션하는 레드팀 테스트를 거쳐야 하며, 해당 안전 정보를 대중과 공유해야 합니다.

둘째, 미공개 모델 가중치에 대한 보안 유지입니다. Apple을 비롯한 서명 기업들은 안전한 환경에서만 가중치 작업을 진행하고, 접근 가능한 내부 직원 수를 최소한으로 제한하기로 약속했습니다.

셋째, 워터마크와 같은 식별 시스템 개발입니다. 일반 사용자가 생성형 AI로 만든 결과물인지 여부를 쉽게 판별할 수 있도록 기술적 장치를 마련해야 합니다.

백악관은 이 서약을 1단계로 규정하고 있으며, 지난해 10월 발표된 행정명령을 통해 연방 기관들이 200명 이상의 AI 전문 인력을 채용하고 80개 이상의 연구팀에 컴퓨팅 자원을 지원했다고 밝혔습니다. 또한 상무부는 조만간 오픈소스 파운데이션 모델의 득실을 분석한 보고서를 발표할 예정입니다.

왜 중요한가

이 서약은 법적 처벌 조항이 없어 사실상 신사협정에 가깝습니다. 그럼에도 Apple이 지금 서명한 것은 철저한 계산에 따른 움직임으로 보입니다.

Apple은 곧 전 세계 20억 명의 활성 사용자에게 Apple Intelligence를 선보이며 단숨에 최대 규모의 AI 유통 플랫폼으로 부상하게 됩니다. 이미 반독점 소송 등으로 연방 규제 당국의 집중 감시를 받는 상황에서, AI 분야만큼은 선제적으로 백악관의 가이드라인을 따르는 모양새를 취해 규제 리스크를 털어내려는 전략입니다.

사용자 관점에서는 가을부터 접하게 될 iOS 내 AI 기능들이 최소한의 외부 검증을 거치고 워터마크 등 안전장치를 탑재한다는 점에서 긍정적입니다. 일반 소비자가 지금 당장 준비해야 할 것은 없습니다.

하지만 우리는 이 움직임이 향후 오픈소스 생태계에 미칠 파장을 경계해야 한다고 봅니다. 모델 가중치에 대한 접근을 제한하는 안전 기준이 제도화될수록, 막대한 컴플라이언스 비용을 감당할 수 있는 대기업들만의 카르텔이 공고해지고 중소 연구진과 스타트업은 설 자리를 잃을 위험이 있습니다.