앤트로픽 다리오 아모데이 CEO "첨단 AI에 항공기급 규제 도입해야"

반지의 제왕에 나오는 나무 거인 트리비어드는 다른 나무에게 인사 한 번 건네는 데 꼬박 하루가 걸리지만, 호빗들은 숲속을 쏜살같이 내달립니다. 다리오 아모데이 앤트로픽 CEO가 보기에 지금의 초거대 AI와 입법 기관의 속도 차이가 딱 이 모양새입니다.

아모데이 CEO는 장문의 정책 에세이를 내고, 기하급수적으로 폭주하는 AI 개발 속도에 맞춰 규제 시스템을 즉각 뜯어고쳐야 한다고 밝혔습니다. 앤트로픽은 에세이와 함께 첨단 모델 테스트 의무화를 담은 구체적인 입법 제안서와 일자리 대체 대응 프레임워크를 공개하며, 실질적인 재정 지원까지 약속했습니다.

투명성 권고는 끝났다, 항공기식 운항 허가제 도입 요구

지난 몇 년간 앤트로픽을 비롯한 안전 옹호 진영은 캘리포니아 SB 53, 뉴욕 RAISE 법안 등 모델 내부 테스트 절차를 공개하도록 하는 투명성 입법에 집중해 왔습니다. 위험의 실체를 정확히 모르는 상황에서 취할 수 있는 최선책이었기 때문입니다.

하지만 아모데이는 이제 그 단계를 넘어서야 한다고 잘라 말합니다. 결정적 계기는 글로벌 사이버 안보 판도를 뒤흔든 Claude Mythos Preview였습니다. 프론티어 모델이 이미 국가 전략 차원의 실질적 위협이 될 수 있음을 입증했기 때문입니다.

그가 꺼내든 해법은 미 연방항공청(FAA) 식의 강제 규제입니다. 안전 검사를 통과하지 못한 여객기가 하늘을 날 수 없듯, 일정 컴퓨팅 파워 기준을 넘는 첨단 AI 모델은 자격을 갖춘 제3자 기관의 강제 평가를 거치도록 하자는 것입니다.

평가 영역은 사이버 보안, 생화학 무기, 시스템 통제력 상실, 위험을 가속하는 자동화된 연구개발 등 4대 핵심 분야로 압축됩니다. 제3자 평가에서 허용할 수 없는 위험이 발견되면, 정부는 해당 모델의 배포를 법적으로 차단하거나 철회시킬 수 있는 막강한 권한을 가져야 합니다.

여기에 모델 가중치(웨이트) 보호를 위한 강력한 보안 기준과 정기적인 침투 테스트, 보안 사고 발생 시 즉각 보고 의무도 포함됐습니다.

초성장의 이면에 도사린 대량 실직 위기

기술적 위험 외에도 아모데이는 노동 시장의 거대한 충격을 집중 경고했습니다. AI가 인간의 인지 능력을 전반적으로 대체하기 시작하면 유례없는 경제적 초성장이 찾아올 수 있지만, 그 대가로 극심한 불평등과 지속적인 일자리 대체가 굳어질 위험이 큽니다.

앤트로픽이 안전 입법안과 함께 일자리 대체 대응 프레임워크를 패키지로 내놓고 재정 지원 의사를 밝힌 것도 이 때문입니다. 기술을 만드는 기업이 사회적 충격을 흡수할 안전망 구축에도 직접 비용을 분담하겠다는 메시지입니다.

왜 중요한가

우리는 앤트로픽의 이번 행보가 안전이라는 명분을 쥐면서도 규제의 가이드라인을 선점하려는 매우 영리한 전략이라고 봅니다.

산업 전반으로 보면, 제3자 테스트와 정부 배포 차단권이 현실화될 경우 프론티어 모델 개발의 문턱은 극적으로 높아집니다. 막대한 자본을 쥔 빅테크는 복잡한 인증 절차를 감당할 수 있지만, 후발 스타트업이나 오픈소스 진영에는 심각한 규제 장벽으로 작용할 수 있습니다.

일반 이용자와 기업 입장에서는 인프라급 모델의 출시 속도가 다소 느려지더라도, 사이버 공격이나 치명적 보안 결함이 있는 AI에 무방비로 노출될 위험을 크게 덜 수 있습니다.

관건은 AI 분야의 FAA 역할을 맡을 정부 기구가 기술 관료주의나 정치적 편향 없이 제 기능을 해낼 수 있느냐입니다. 그럼에도 기술을 만드는 당사자가 규제의 고삐를 정부에 직접 쥐여주기 시작했다는 점에서, AI 안전 담론은 자율 규제를 넘어 강제적 법제화 국면으로 완전히 진입했습니다.