오픈AI 등 주요 AI 기업, 백악관 주도 안전 기준 자발적 서약

AI 발전 속도가 규제 논의를 앞지르자, 주요 AI 연구소들이 백악관의 조율 아래 스스로 가이드라인을 세웠습니다.

OpenAI를 비롯한 선도적 AI 기업들은 AI의 안전성, 보안, 신뢰성을 강화하기 위한 자발적 공약을 발표했습니다. 전 세계 정책 입안자들이 고성능 AI 규제 법안을 검토하는 상황에서, 민간 차원의 구체적인 모범 규준을 먼저 제시하겠다는 취지입니다.

주목할 점은 적용 범위입니다. 이 서약은 현재 서비스 중인 제품 전체가 아니라, 현재 업계 프론티어보다 강력한 차세대 모델에만 적용됩니다. 기준선으로 GPT-4, Claude 2, PaLM 2, Titan, 그리고 DALL-E 2가 직접 명시되었습니다. 즉, 이들보다 뛰어난 미래 모델부터 규제 틀에 넣겠다는 의미입니다.

자가 복제 감시부터 워터마크 도입까지

이번 자발적 공약은 크게 8개 항목으로 나뉩니다.

핵심은 독립적인 외부 전문가가 참여하는 다각적 레드팀 테스트입니다. 생화학 무기 개발 위험, 사이버 공격 악용 가능성, 물리 시스템 제어, 심지어 모델이 스스로를 복제하는 자가 복제 능력까지 사전에 점검해야 합니다.

미출시 모델의 가중치는 핵심 영업비밀 수준으로 보호됩니다. 내부자 위협 방지 프로그램을 가동하고 접근 권한을 최소화해 모델 가중치 유출을 원천 차단하기로 했습니다.

보안 허점을 찾기 위한 버그 바운티 프로그램도 운영하며, 가드레일을 우회하려는 공격 시도나 위험 요소를 기업 및 정부와 공유하는 협력 창구를 마련합니다.

일반 대중과 직접 맞닿아 있는 부분은 콘텐츠 식별 기술입니다. 기업들은 AI가 생성한 오디오 및 시각 콘텐츠에 워터마크나 출처 확인 메커니즘을 적용하고, 이를 판별할 수 있는 도구와 API를 함께 배포하기로 약속했습니다. 이 밖에도 투명성 보고서 발행, 편향 및 프라이버시 연구, 기후변화와 암 조기 진단 등 사회적 난제 해결 지원이 포함되었습니다.

왜 중요한가

이번 합의는 향후 제정될 프론티어 AI 법안의 뼈대를 빅테크가 먼저 세웠다는 점에서 의미가 큽니다.

일반 이용자나 개발자 입장에서 당장 체감되는 사용성 변화는 없습니다. 기존 모델들은 이번 규제 대상에서 제외되었기 때문입니다. 다만 향후 오디오 및 이미지 워터마크와 판별 API가 보급되면, 딥페이크나 위조 콘텐츠를 가려내는 실질적인 도구로 활용할 수 있게 됩니다.

산업 전반으로 보면 규제의 진입 장벽이 높아졌습니다. 외부 레드팀 구성, 내부 보안 감사, 출처 추적 시스템 구축 등은 막대한 자본과 인력이 필요한 작업입니다. 결국 빅테크가 주도한 이 안전 기준은 후발 주자들이 프론티어 모델 시장에 진입할 때 상당한 비용 부담으로 작용할 가능성이 큽니다.

우리가 보기에 이번 조치는 정부의 강제 규제를 앞두고 시간을 벌기 위한 영리한 전략입니다. 다만 구속력 없는 '자발적 서약'에 불과해 위반 시 마땅한 제재 수단이 없다는 점은 뚜렷한 한계입니다. 게다가 현재 서비스 중인 모델들을 제외하고 아직 나오지도 않은 차세대 모델에만 안전 족쇄를 채웠다는 점에서, 당장의 사업 리스크를 피하면서 공공의 신뢰만 챙긴 타협안에 가깝습니다.