OpenAI, AGI 로드맵 발표: 인간 지능 가까워질수록 배포는 더 신중히

인간을 뛰어넘는 지능이 실제로 눈앞에 다가온다면 우리는 무엇을 해야 할까요?

전 세계가 챗봇의 편리함에 감탄하고 있는 사이, OpenAI는 그 너머의 범용 인공지능(AGI)과 초지능 시대를 어떻게 맞이할 것인지에 대한 기본 청사진을 내놓았습니다.

OpenAI는 공식 블로그를 통해 AGI 개발 원칙과 위험 관리 방안을 담은 ‘Planning for AGI and beyond’를 공개했습니다.

완벽한 밀실 개발 대신 점진적 배포

OpenAI가 제시한 핵심 전략은 점진적 전환입니다. 연구실 안에서 완벽한 시스템을 완성해 한 번에 세상에 내놓는 방식 대신, 덜 강력한 버전을 사회에 먼저 배포해 실제 환경에서 피드백을 얻겠다는 구상입니다.

위험도가 상대적으로 낮은 시점에 대중과 정책 입안자, 기업들이 기술의 이점과 부작용을 직접 겪어봐야 사회적 합의와 규제를 마련할 시간을 벌 수 있다는 판단입니다.

하지만 AGI에 가까워질수록 이전보다 훨씬 높은 수준의 주의를 기울이겠다고 선을 그었습니다. 새로운 시스템을 공개하기 전 독립적인 감사를 거치고, 차세대 대규모 모델 훈련을 시작하기 전에 외부 검토를 받으며, 컴퓨팅 파워의 증가율을 제한하는 조치까지 고려하겠다고 밝혔습니다. 일정 규모 이상의 훈련 작업에 대해 주요국 정부에 정보를 공유하는 방안도 포함되었습니다.

또한 투자자 수익에 상한을 둔 지배구조와 인류의 이익을 위해 주주에 대한 의무마저 취소할 수 있는 비영리 이사회의 통제권을 안전장치로 재차 강조했습니다.

기후 성명 낸 석유 기업 같다는 비판

이러한 선언을 두고 외부에서는 회의적인 시선도 적지 않습니다.

작가 스콧 알렉산더는 자신의 블로그 Astral Codex Ten을 통해, 이번 발표가 기후 위기에 대해 완벽한 성명을 낸 정유 회사 엑손모빌을 떠올리게 한다고 꼬집었습니다. 미래에 위기가 닥치면 모든 규범을 지키겠다고 약속하면서도, 현재는 여전히 쉬지 않고 석유를 퍼 올리는 모습과 다르지 않다는 지적입니다.

예측 플랫폼 메타큘러스(Metaculus)에서 초지능 도달 예상 시점이 2043년에서 2031년으로 앞당겨진 것처럼, OpenAI가 주도하는 기술 상용화 경쟁이 AI 통제 기술(정렬 연구)을 개발할 시간적 여유를 오히려 급격히 소모시키고 있다는 우려가 나옵니다.

왜 중요한가

일반 사용자와 개발자 관점에서 볼 때, 향후 출시될 OpenAI 모델들의 기본 동작은 상당히 엄격하게 통제될 가능성이 큽니다. 비록 사용자가 세부 설정을 변경할 수 있는 자율성을 부여하겠다고 약속했지만, 안전 가이드라인의 기본 문턱은 계속 높아질 것입니다.

업계 전체에는 강력한 규제 가이드라인의 시발점이 될 수 있습니다. 선두 기업이 스스로 독립 감사와 컴퓨팅 자원 제한, 정부 보고를 언급한 만큼, 구글이나 앤트로픽 같은 경쟁사들도 유사한 안전 기준을 제시해야 한다는 사회적 압박을 피하기 어렵게 되었습니다.

우리는 상업적 배포라는 공격적인 행보를 점진적 안전 검증이라는 명분으로 포장한 OpenAI의 논리가 꽤 영리하다고 봅니다. 하지만 가장 큰 문제는 구속력입니다. 치열한 기술 패권 경쟁 속에서 과연 기업 스스로 훈련 중단이나 속도 조절이라는 결단을 내릴 수 있을지는 여전히 의문으로 남습니다.