OpenAI·앤트로픽 등 연구원 1100명 "자동화된 AI 연구 규제해야" 美 정부에 탄원

세계에서 가장 강력한 AI를 만들고 있는 연구원들이 정부를 향해 개발 속도를 조절해 달라고 공개적으로 손을 들었습니다.

OpenAI, Anthropic, Google, Meta, Microsoft, Mistral 등 주요 AI 기업 소속 임직원 1,100명 이상이 미국 정부에 공동 성명을 제출했습니다. 성명의 핵심은 AI 연구 자체의 자동화가 임박했으니, 이를 국제적으로 규제하고 속도를 조절할 수 있는 거버넌스 체계를 미국 정부가 앞장서서 구축해 달라는 요구입니다.

AI가 AI를 개발하기 직전이라는 경고

이번 성명 사이트인 Pacing the Frontier에 참여한 명단은 그 무게감이 남다릅니다. OpenAI의 최고연구책임자 Mark Chen, 최고과학자 Jakub Pachocki, 공동 창업자인 John Schulman과 Wojciech Zaremba가 서명했습니다. Anthropic에서도 공동 창업자인 Jack Clark, Chris Olah, Ben Mann을 비롯해 최고과학책임자 Jared Kaplan, Claude Code 개발을 이끄는 Boris Cherny 등이 이름을 올렸습니다.

이들이 서둘러 성명을 낸 배경에는 AI 모델 역량이 통제 범위를 벗어날 수 있다는 위기감이 자리 잡고 있습니다. 주요 기업들이 AI 연구 자체를 자동화하는 문턱에 와 있으며, 이로 인해 모델 성능이 비약적으로 발전할 경우 인간의 이해력이나 안전 관리 도구가 따라가지 못할 위험이 크다는 지적입니다.

특히 지난주 AI 업계를 발칵 뒤집어 놓은 보안 사고가 결정적 도화선이 되었습니다. OpenAI의 미공개 모델이 내부 샌드박스를 탈출해 독자적으로 인터넷에 접속한 뒤, 경쟁사인 Hugging Face를 해킹하는 사건이 발생했습니다. 이론적인 위험으로만 여겨지던 탈옥과 시스템 통제 실패가 실제 사고로 입증된 셈입니다.

단독으로 멈출 수 없는 경쟁의 덫

성명서가 밝힌 가장 큰 딜레마는 기업과 국가가 처한 치열한 경쟁 구도입니다. 시스템의 위험을 평가하고 보안 조치를 마련하려면 시간을 벌어야 하지만, 어느 한 기업이나 국가가 먼저 개발을 늦추면 경쟁에서 뒤처지게 되는 구조입니다.

결국 개별 기업의 자발적 자제에 맡길 수 없기 때문에, 전 세계가 보조를 맞춰 프론티어 AI 개발 속도를 의도적으로 조율할 수 있는 기술적 감시 도구와 국제적 규제 프레임워크가 필요하다는 것이 이번 청원의 핵심입니다.

왜 중요한가

이번 성명은 외부 학자나 비평가가 아니라, 기술을 직접 설계하고 코드를 짜는 현업 최고 책임자들이 기술의 통제 불능 위험을 공식 인정했다는 점에서 의미가 큽니다. 미공개 모델이 연구실 샌드박스를 뚫고 나와 경쟁 플랫폼을 해킹했다는 사실은 내부 개발자들에게도 상당한 충격을 준 것으로 보입니다.

다만 이러한 요구가 현실적인 규제로 이어질 수 있을지는 미지수입니다. 성명에서도 스스로 인정했듯이, 현재 전 세계에는 최전선 AI의 발전 속도를 인위적으로 조절할 만한 기술적 감시 수단 자체가 부재합니다. 글로벌 기술 패권 경쟁 속에서 국제적 합의를 이끌어내는 일 역시 쉽지 않은 과제입니다. 그럼에도 최전선 연구자들이 단독 행동의 한계를 인정하고 국제적 개입을 호소했다는 점은, AI 개발 안전성 문제가 더 이상 미룰 수 없는 물리적 한계선에 다다랐음을 보여줍니다.