딥마인드 하사비스, 미국 주도 글로벌 AI 감시기구 설립 촉구

지난달 미국 정부가 Anthropic의 Mythos와 OpenAI의 Sol을 두고 임시 검토와 금지 조치를 급조하면서, 기술적 전문성이 부족하고 불투명하다는 비판이 업계 전반에서 쏟아졌습니다. 이런 상황에서 대표적인 AI 프론티어 수장이 직접 구체적인 대안을 제시하고 나섰습니다.

Google DeepMind의 Demis Hassabis CEO는 '프론티어 AI를 위한 프레임워크와 새로운 시대의 여명'이라는 글을 통해, 미국이 주도하는 독립적인 AI 표준 감독 기구를 설립하자고 제안했습니다. 그는 이 조직이 올해가 가기 전에 공식 출범하기를 기대하고 있습니다.

금융권 FINRA를 본뜬 자율 규제 모델

Hassabis의 구상은 미국 금융산업규제국 FINRA와 유사한 자율 규제 모델입니다. 정부 관료가 직접 개입하는 규제 당국 대신, AI 업계의 자금 지원을 받되 독립적으로 운영되는 전문가 중심의 기구를 만들자는 뜻입니다.

백악관 AI 고문이자 a16z 파트너인 Sriram Krishnan은 최근 'AI를 위한 FDA는 없을 것'이라며 행정부 차원의 규제 기구 신설을 강하게 일축한 바 있습니다. Hassabis의 카드는 이러한 정부 측 기류를 반영하면서도 기술적 검증 장치를 마련하려는 영리한 절충안에 가깝습니다.

계획에 따르면 기구는 업계의 독립 기술 전문가와 오픈소스 커뮤니티 대표들로 구성됩니다. 모델 평가는 기업의 위치가 아닌 역량을 기준으로 삼으며, 기만적 행동이나 생물무기 제조, 사이버 공격 역량 등을 집중 점검합니다.

초기에는 프론티어 랩들이 모델 출시 최대 30일 전에 자발적으로 모델을 제출해 사전 평가를 받습니다. 평가 체계의 신뢰성이 입증되면 법제화를 거쳐 미국 시장 출시를 위한 필수 요건으로 전환됩니다. 모델 위험성이 지나치게 높다고 판단될 경우, 기구가 업계 전반의 출시 일정을 일시적으로 늦추도록 조율하는 권한까지 포함되어 있습니다.

18개월 카운트다운과 AGI의 압박

2024년 노벨 화학상 수상자이기도 한 Hassabis는 지난 수개월간 트럼프 행정부와 주요 AI 랩, 유럽 관료들을 상대로 물밑 설득 작업을 벌여왔습니다. 그는 Axios와의 인터뷰에서 트럼프 행정부로부터 매우 긍정적인 반응을 얻고 있다고 밝혔습니다.

그가 이처럼 속도를 내는 이유는 범용 인공지능 AGI의 등장이 몇 년 남지 않았다고 보기 때문입니다. 인류가 이미 싱귤래리티의 초입에 서 있다는 진단과 함께, 오픈소스 모델의 역량 역시 향후 18개월 안에 위험 수위에 도달할 수 있다고 경고했습니다.

왜 중요한가

일반 개발자나 초기 스타트업에게 이 규제안이 당장 직접적인 족쇄가 되지는 않을 것으로 보입니다. 감시 대상이 최상위 프론티어 모델에 국한되어 있기 때문입니다. 하지만 오픈소스 모델에 대한 위험 경고가 현실화되어 규제망이 넓어진다면, 향후 오픈소스 진영이 고성능 가중치에 접근하는 문턱이 크게 높아질 가능성이 있습니다.

업계 관점에서는 관료들의 무리한 행정 조치에 끌려다니기 전에 빅테크가 규제의 주도권을 쥐려는 영리한 선제공격입니다. 기술을 모르는 정치권이 임의로 금지령을 내리는 혼란을 피하고, 기술적 이해도가 높은 전문가 집단에 심사를 맡기겠다는 논리입니다.

하지만 명백한 맹점도 존재합니다. 거대 AI 기업들의 자금으로 굴러가는 자율 기구가 과연 완벽한 독립성을 유지할 수 있을지에 대한 의구심입니다. 더 나아가 '출시 속도 조율'이라는 막강한 권한이 자칫 기존 거대 기업들이 후발 주자의 추격을 막기 위해 구축하는 방어용 해자로 악용될 위험도 배제할 수 없습니다.

우리는 무질서한 행정 개입과 과도한 정부 통제 사이에서 FINRA 방식의 자율 규제가 현재로선 가장 현실적인 대안이라고 봅니다. 다만 평가 기준과 검증 결과가 대중에게 완전히 투명하게 공개되지 않는다면, 이는 소수 빅테크의 기득권을 지키기 위한 폐쇄적인 카르텔로 변질될 수 있습니다.