오픈AI, 초지능 거버넌스 제안…“IAEA 같은 국제기구 필요”

향후 10년 안에 세계 최대 기업 수준의 생산 활동을 해내고, 거의 모든 분야에서 인간 전문가를 뛰어넘는 AI가 등장한다면 세상은 이를 어떻게 통제해야 할까.

OpenAI는 5월 22일, AGI를 뛰어넘는 기술인 '초지능(Superintelligence)'의 거버넌스를 다룬 공식 기고문을 발표했다. 인류에게 실존적 위협이 될 수 있는 기술인 만큼, 시스템이 현실화되기 전에 지금 당장 글로벌 규제 틀을 짜야 한다는 주장이다.

AI 업계의 국제원자력기구(IAEA) 구상

이번 제안에서 가장 주목받는 대목은 국제원자력기구(IAEA)를 본뜬 국제 규제 기관의 설립이다.

특정 능력치나 연산량(컴퓨팅 파워) 기준을 넘어서는 초지능 개발 시도는 모두 이 국제기구의 사찰과 감사, 안전 표준 적합성 평가를 거치도록 하자는 구상이다. OpenAI는 컴퓨팅 파워와 전력 사용량을 추적하면 이 같은 규제를 실제로 집행할 수 있다고 설명했다.

이와 함께 세계 주요국이 참여하는 공동 프로젝트를 구축하거나, 프론티어 AI의 능력 발전 속도에 연간 상한선을 두는 식의 협력 방안도 함께 제시했다.

동시에 OpenAI는 규제의 경계선도 명확히 그었다. 일정 기준 이하의 모델이나 오픈소스 프로젝트에는 라이선스 취득이나 외부 감사 같은 무거운 규제를 적용해서는 안 된다는 입장이다. 현재 수준의 AI 리스크는 기존 인터넷 기술과 비슷한 수준이므로, 규제의 초점을 오직 최상위 초지능에만 맞춰야 한다는 논리다.

그냥 멈추면 안 되는 이유

위험이 그렇게 크다면 왜 개발 자체를 중단하지 않는 걸까.

OpenAI는 개발을 멈추는 것이 오히려 비직관적으로 더 위험하고 불가능에 가깝다고 답한다. 모델 구축 비용은 매년 급감하고 있고 진입자는 늘고 있어, 개발을 강제로 막으려면 전 지구적인 감시 체제를 갖춰야 하지만 그마저도 성공을 보장할 수 없다는 것이다.

결국 기술 등장을 막을 수 없다면 안전하게 통제할 수 있는 길을 찾는 편이 현실적이라는 설명이다. 또한 시스템의 기본 규칙과 한계는 글로벌 대중이 민주적으로 결정해야 한다고 덧붙였다.

왜 중요한가

우리는 OpenAI의 이번 발표가 각국 정부가 본격적인 규제에 착수하기 전, 빅테크가 주도권을 쥐고 규제의 기준선을 선점하려는 전략적 포석이라고 본다.

알고리즘 내부를 일일이 들여다보는 대신 컴퓨팅 파워와 전력 소비량을 규제 기준으로 잡은 점은 현실적이다. 첨단 반도체와 대규모 데이터센터는 물리적 실체가 뚜렷해, 국가 차원에서 추적하고 통제하기가 소프트웨어보다 훨씬 수월하기 때문이다.

오픈소스 생태계와 소형 모델을 규제 대상에서 제외하자고 강조한 대목도 눈여겨볼 만하다. 그동안 업계에서는 선두 주자들이 안전을 명분 삼아 규제 장벽을 높이고 사다리를 걷어차려 한다는 비판이 많았는데, OpenAI가 이 같은 반발을 의식해 선제적으로 선을 그어준 셈이다.

다만 이 구상이 현실화되기까지는 넘어야 할 산이 많다. 미중 갈등 등 복잡한 지정학적 상황 속에서 각국이 AI 발전 속도에 스스로 상한을 두고 상호 사찰을 허용할 가능성은 현재로선 매우 낮다. 일반 개발자와 기업 입장에서 보면, 당장 일상적인 API 활용이나 중소형 오픈소스 개발이 초강력 규제에 가로막힐 우려는 크지 않다는 점을 확인한 계기로 볼 수 있다.