샘 알트먼, 'AI 개발 속도 조절' 공감…외부 평가자 도입 약속

치열하게 속도전을 벌이던 AI 업계의 두 경쟁자가 보폭을 늦추는 문제에서 뜻을 모았습니다.

오픈AI의 샘 올트먼 최고경영자는 앤트로픽 다리오 아모데이 CEO가 제안한 프론티어 AI 개발 속도 조절 주장에 공개적으로 동의했습니다. 올트먼은 최근 몇 주간 오픈AI 내부에서도 개발 속도 조절이 핵심 논의 주제였다고 전했습니다.

외부 평가자에게 직원 수준의 접근 권한 부여

앞서 아모데이 CEO는 AI 업계가 속도를 늦춰야 한다는 글을 기고하며, 외부 독립 평가자에게 상시적인 직원 수준의 시스템 접근 권한을 제공하겠다고 선제적으로 공약했습니다. 이를 통해 안전 수칙 준수 여부를 확인하고 사고를 보고하며, 모델 학습 중 정렬 상태를 면밀히 평가하도록 하겠다는 취지입니다.

올트먼은 직원 수준 권한을 가진 독립 평가자를 도입하는 아이디어가 훌륭하다며, 오픈AI 역시 같은 방식을 따를 것이라고 밝혔습니다. 구체적인 세부 사항은 조만간 공유될 예정입니다.

왜 중요한가

선두를 다투던 대표적인 프론티어 연구소들이 개발 속도를 조절하고 외부 감시를 수용하겠다고 공언한 것은 업계 분위기의 변화를 보여줍니다.

모델이 완성된 뒤 진행하는 사후 레드팀 테스트를 넘어, 학습 과정부터 외부인에게 내부 접근 권한을 열어주는 것은 안전성 검증 측면에서 진일보한 방식으로 평가할 수 있습니다. 다만 실효성은 세부 실행 계획에 달려 있습니다. 평가 주체의 독립성이 얼마나 지켜질지, 한쪽이 기술적 돌파구를 마련했을 때도 이 자율적 완급 조절이 유지될 수 있을지는 지켜볼 필요가 있습니다.