저커버그, AI 개발 속도조절 연대 거부: 안전은 각자 회사의 몫

AI 개발 속도를 늦추자는 목소리가 실리콘밸리에서 커지는 가운데, 메타의 마크 저커버그 CEO가 이를 정면으로 거부했습니다.

저커버그는 9월 15일 소셜미디어를 통해 AI 개발 속도를 인위적으로 조율해 늦추는 협의에 참여하지 않겠다고 밝혔습니다. AI 안전은 각 기업이 개별적으로 져야 할 책임이지, 업계 전체가 공동으로 짊어질 의무가 아니라는 주장입니다.

이번 발언은 앤트로픽의 다리오 아모데이 CEO가 'We Must Pace the Frontier'라는 기고문을 통해 외부 평가관 도입과 국가 간 보조 맞추기를 제안한 지 며칠 만에 나왔습니다. 오픈AI의 샘 올트먼과 일론 머스크, 구글 딥마인드의 데미스 허사비스 등이 해당 구상에 긍정적인 반응을 보인 것과 대조적입니다.

각자도생이 답이라는 메타의 계산

저커버그는 최근 메타가 공개한 에이전트 '뮤즈'를 예로 들었습니다. 9월 8일 발표된 뮤즈는 전용 가상 컴퓨터와 브라우저를 사용해 이메일을 보내거나 여행 일정을 대신 예약해 주는 기능을 갖췄습니다.

그는 뮤즈의 안전성과 신뢰성을 확보하기 위해 출시를 몇 달 미뤘다고 밝혔습니다. 그러면서 경쟁사들에게도 같이 일정을 미루자고 요구하지는 않았다는 점을 분명히 했습니다.

이용자가 원하는 것은 지시를 안전하게 따르는 에이전트이며 신뢰성 자체가 곧 상품의 경쟁력이라는 논리입니다. 안전 조치를 건너뛰는 연구소는 결국 시장에서 뒤처질 수밖에 없다는 것입니다.

아울러 저커버그는 모델이 스스로 성능을 계속해서 개선하는 '재귀적 자기 개선' 경쟁에 회의감을 드러냈습니다. 컴퓨팅 자원의 대부분을 이런 연구가 아니라 실제 사람들을 돕는 서비스에 투입하는 것이 훨씬 현실적인 안전 대책이라고 꼬집었습니다.

멈추면 뒤처지는 죄수의 딜레마

업계 리더들의 입장은 극단적으로 갈리고 있습니다.

속도 조절을 지지하는 쪽에서도 세부 의견은 다릅니다. 올트먼은 개발을 계속 이어가면서 보폭을 맞추자는 입장이고, 아모데이는 외부 평가관에게 내부 직원 수준의 접근 권한을 주고 부정적인 평가 결과를 대외 공개할 권리까지 보장해야 한다고 제안했습니다.

반면 개발 억제에 반대하는 목소리도 강력합니다. 저커버그 외에도 엔비디아의 젠슨 황 CEO는 속도와 안전이 공존할 수 있다고 주장합니다. 도널드 트럼프 역시 AI 및 데이터센터 개발을 가로막는 조치에 반대하며, 중국 외교부 또한 속도 조절 제안에 반대 입장을 표명했습니다.

결국 전형적인 죄수의 딜레마 상황입니다. 상대가 달리는 상황에서 나만 멈추면 치명적인 기술 격차가 발생하기 때문입니다. 아모데이의 제안조차 서방 민주주의 국가들이 중국보다 기술적 우위를 유지해야 한다는 전제를 깔고 있습니다.

왜 중요한가

저커버그의 단호한 거부로 인해 글로벌 차원의 AI 개발 속도 조절 협약은 사실상 성사되기 어렵게 됐습니다.

실제 에이전트 도입을 고민하는 기업과 이용자에게 중요한 것은 거창한 규약보다 실질적인 통제 기능입니다. 뮤즈와 같은 도구를 쓸 때는 어떤 작업에 관리자 승인이 필요한지, 접근 권한을 언제든 즉시 회수할 수 있는지, 비정상적 행동 후 기록이 남는지를 꼼꼼히 따져봐야 합니다.

산업 측면에서는 메타와 엔비디아가 감속을 거부하는 한, 안전을 이유로 먼저 속도를 늦출 수 있는 빅테크는 없을 것으로 보입니다. 결국 업계의 기본값은 변함없이 가속 페달을 밟는 쪽으로 유지될 가능성이 높습니다.

우리는 저커버그가 안전을 도덕적 협약이 아닌 제품 경쟁력과 법적 책임의 문제로 끌어내린 접근이 매우 현실적이라고 봅니다. 다만 치열한 속도 경쟁 속에서 개별 기업의 자율성에만 안전을 온전히 맡길 수 있는지는 여전히 물음표로 남습니다. 외부 평가 기준에 대한 부분적 합의는 가능할지 몰라도, 공동 감속은 당분간 기대하기 힘들어 보입니다.