딥마인드 CEO, 앤트로픽의 AI 감속론 지지…업계 표준 기구 설립 촉구

프론티어 AI 수장들의 이례적인 공감대

치열한 성능 경쟁을 벌이고 있는 프론티어 AI 분야의 두 최고경영자가 안전과 관련해 한목소리를 냈습니다.

앤트로픽의 다리오 아모데이 최고경영자는 최근 산업 전반의 개발 속도 조절을 촉구하는 기고문 'We Must Pace the Frontier'를 공개했습니다. 그는 3단계 계획을 제시하면서 앤트로픽이 먼저 1단계를 일방적으로 실행하겠다고 밝혔습니다. 외부 평가 기관에 영구적이고 직원 수준의 시스템 접근 권한을 부여해 안전 조치 준수 여부, 사고 보고, 모델 학습 중 정렬 상태를 직접 검증받도록 하겠다는 내용입니다.

이에 대해 구글 딥마인드의 데미스 허사비스 최고경영자 역시 공개적으로 지지를 보냈습니다. 허사비스는 세부 사항은 조율이 필요하지만 지금의 중요한 국면에서 올바른 방향을 제시했다고 평가했습니다. 그러면서 딥마인드가 최근 프론티어 AI를 위한 업계 전반의 표준 기구 설립을 제안한 것도 바로 이 때문이라고 강조했습니다.

왜 중요한가

선두 연구소들이 각자의 자율적인 선언만으로는 외부의 신뢰를 얻기 힘든 단계에 도달했음을 보여줍니다.

앤트로픽이 외부 감사인에게 직원급의 내부 시스템 접근 권한을 내주기로 한 결정은 투명성 기준을 크게 끌어올렸습니다. 딥마인드가 이를 계기로 업계 표준 기구 논의를 다시 띄운 것 역시 개별 기업의 선의를 제도적 규칙으로 굳히려는 영리한 접근으로 보입니다.

이러한 연대는 다른 경쟁사들에도 외부 독립 검증을 수용하라는 적지 않은 압박으로 작용할 전망입니다. 다만 상업적 이해관계와 기밀 보호 문제가 얽혀 있는 상황에서, 구체적인 평가 기준을 어떻게 합의하고 실질적인 제동 장치로 안착시킬 수 있을지가 관건입니다.