앤트로픽 CEO 다리오 아모데이, 강력한 AI의 위험 분석한 에세이 발표

영화 <콘택트>에는 인상적인 대사가 나온다. 외계 문명과 첫 접촉을 앞둔 천문학자에게 단 하나의 질문만 던질 수 있다면 무엇을 묻겠느냐고 하자, 그는 이렇게 답한다. “스스로를 파괴하지 않고 어떻게 그 기술적 사춘기를 버텨냈는지 묻고 싶어요.”

앤트로픽의 CEO 다리오 아모데이(Dario Amodei)는 지금 인류가 마주한 상황이 정확히 이 질문 앞에 서 있다고 본다. 그는 2026년 1월 26일, 장문의 에세이 ‘기술의 사춘기(The Adolescence of Technology)’를 공개하고, 강력한 AI의 등장과 함께 인류가 맞이할 거대한 위험에 대해 냉정한 경고를 던졌다.

종말론을 배제하고 정밀하게 규제하라

아모데이는 우선 종교적 광신에 가까운 ‘종말론(doomerism)’부터 선을 그었다. 2023년과 2024년 사이 근거 없는 극단적 공포가 번지면서 오히려 대중과 정치권의 거센 반발을 샀고, 결국 논의가 양극화되어 교착 상태에 빠졌다는 지적이다.

그 반작용으로 2025년과 2026년에 들어서며 분위기는 ‘AI 기회론’으로 급격히 쏠렸다. 하지만 그는 기술 발전이 여론의 유행을 따르지 않으며, 인류는 2023년보다 2026년 현재 실질적인 위험에 훨씬 더 가까워졌다고 꼬집었다.

따라서 지금 필요한 것은 과도한 규제로 경제적 가치를 파괴하는 것이 아니라, ‘외과수술처럼 정밀한 개입’이다. 기업의 자발적 조치와 더불어 명확한 위험 증거에 기반한 최소한의 규칙을 먼저 마련해야 반발을 피하고 실효성을 챙길 수 있다는 뜻이다.

데이터센터에 들어선 ‘천재들의 국가’

그가 정의하는 위험의 실체는 1~2년 안에 현실화될 수 있는 ‘강력한 AI(powerful AI)’다. 단순한 대화형 모델이 아닌, 수학과 생물학, 코딩 등 거의 전 분야에서 노벨상 수상자를 능가하는 수준의 지능체를 뜻한다.

이 AI는 마우스와 키보드, 웹 환경을 자유자재로 제어하며, 며칠 혹은 몇 주가 걸리는 과제를 똑똑한 직원처럼 자율적으로 처리한다. 2027년 무렵에는 학습용 클러스터를 전용해 인간보다 10~100배 빠른 속도로 사고하는 인스턴스 수백만 개를 동시에 띄울 수 있을 것으로 전망된다. 그야말로 ‘데이터센터 안에 천재들로 이루어진 국가’가 들어서는 셈이다.

아모데이는 실제로 앤트로픽 내부의 최고 수준 엔지니어들이 이미 코딩 작업의 거의 전부를 AI에 넘겼으며, AI가 직접 차세대 모델 개발을 가속화하고 있다고 덧붙였다.

왜 중요한가

개발자와 기업 입장에서는 최고 수준의 연구 기관에서 이미 인간 엔지니어의 코딩 작업이 모델로 전면 대체되고 있다는 사실에 주목해야 한다. AI를 단순히 보조 도구로 쓸지 고민하는 단계를 지나, 자율적으로 일하는 수많은 디지털 인력을 어떻게 통제하고 협업할 것인가로 실무의 패러다임이 완전히 바뀌고 있기 때문이다.

산업과 정책적 측면에서 아모데이의 행보는 영리해 보인다. 종말론이라는 자극적인 포장을 벗겨내고 ‘제한적이고 정밀한 규제’를 내세움으로써, 규제에 반발하는 빅테크 진영과 정부를 설득할 수 있는 현실적인 기반을 닦으려 하기 때문이다.

우리는 이 글에서 앤트로픽 내부의 상당한 조급함을 엿볼 수 있다고 생각한다. 모델이 스스로 다음 세대의 모델을 코딩하는 루프가 가동되면서 기술 진화의 기울기는 인간의 예측 범위를 벗어나기 시작했다. 인류가 이 위험천만한 사춘기를 스스로를 파괴하지 않고 통과할 수 있을지, 남은 시간이 그리 많지 않아 보인다.