앤트로픽 CEO 아모데이 "AI가 재앙이 될 확률은 25%"

만약 항공사 CEO가 탑승을 앞둔 승객들에게 비행기가 공중 분해될 확률이 25%에 달한다고 말한다면, 그 비행기에 탈 사람은 아무도 없을 것입니다. 하지만 지금 프론티어 AI 업계의 리더들은 이런 섬뜩한 수치를 공공연히 말하면서도 개발 속도를 늦추지 않고 있습니다.

Axios가 주최한 서밋에서 Anthropic의 CEO Dario Amodei는 AI가 인류를 파멸로 몰고 갈 확률을 뜻하는 이른바 p(doom) 수치에 대한 질문을 받았습니다. Amodei는 그 단어 자체를 정말 싫어한다고 선을 그으면서도, AI의 미래가 극도로 나쁘게 흘러갈 확률이 25%에 달한다고 밝혔습니다. 다만 사태가 극도로 잘 풀릴 확률 역시 75%라고 덧붙였습니다.

빅테크 거물들의 파멸 계산법

Amodei가 25%라는 수치를 공식 석상에서 밝힌 것은 이번이 처음이 아닙니다. 주요 AI 기업 수장들 사이에서 이 같은 파멸 확률을 언급하는 것은 일종의 통과의례처럼 자리 잡았습니다.

일론 머스크는 과거 자신의 p(doom)을 최고 20%로 잡은 바 있습니다. 지난 7월 Grok-4를 공개한 뒤 머스크는 상황이 대체로 잘 풀리겠지만, 그렇지 않더라도 적어도 그 결과를 살아서 직접 지켜보고 싶다고 언급했습니다.

Pichai Google CEO 역시 올해 초 Lex Fridman과의 팟캐스트에서 파멸 시나리오에 대해서는 낙관적이라면서도 기저에 깔린 잠재적 위험은 실제로 상당히 높다고 평가했습니다.

특히 Anthropic의 행보는 독특합니다. 최첨단 거대언어모델을 누구보다 공격적으로 개발하면서도, AI의 위험성을 가장 앞장서서 경고해 왔기 때문입니다. Amodei는 과거 Axios와의 인터뷰에서 AI가 초급 사무직 일자리의 절반을 없앨 수 있다고 경고한 바 있습니다.

실제로 Anthropic이 내놓는 연구 결과들도 이를 뒷받침합니다. 지난 6월 공개한 연구에 따르면, 가상 테스트 환경에서 챗봇들이 안전 장치를 우회하고 거짓말을 하며 기업 비밀을 훔치려는 경향을 보였습니다. 이번 주에는 AI 혜택이 부유한 국가와 고숙련 인재, 미국 내 특정 지역에 쏠려 기존 불평등을 심화시킬 수 있다는 데이터를 발표하기도 했습니다.

대중의 불안감도 임계점에 달하고 있습니다. Pew Research가 발표한 데이터에 따르면 2023년부터 2025년까지 3년 연속으로 미국인의 약 절반이 AI에 대해 기대보다는 우려를 표했습니다. 7월 기준 미국의 실업자 수가 4년 만에 처음으로 채용 공고 수를 넘어서면서 고용 불안이 현실화된 영향도 큽니다. 미성년자를 대상으로 한 챗봇의 자살 유도 논란 등으로 학부모들의 불안이 커지자, Anthropic은 Claude의 사용 연령을 만 18세 이상으로 엄격히 제한하고 있습니다.

왜 중요한가

실무자와 개발자 입장에서 볼 때, 25%라는 파멸 확률은 먼 미래의 공상과학적 재앙이라기보다는 지금 당장 닥쳐온 현실적 위협을 가리는 연막에 가깝다고 봅니다.

초급 화이트칼라 일자리가 감소하고 도구의 혜택이 상위 계층에 집중되는 현상은 이미 진행 중입니다. 지금 우리에게 필요한 것은 인류 멸망에 대한 막연한 공포가 아니라, AI로 인해 재편되는 노동 시장에서 어떻게 개인의 경쟁력을 확보할 것인가에 대한 고민입니다.

업계 전반으로 보면 Anthropic의 이번 발언은 영리하면서도 짙은 모순을 품고 있습니다. 스스로를 안전을 최우선으로 하는 기업으로 포지셔닝하고 위험성을 강조할수록, 규제 당국에 엄격한 규범을 요구할 명분이 커집니다.

그러나 규제 장벽이 높아질수록 감당할 여력이 없는 오픈소스 생태계나 중소 스타트업은 시장에서 배제되고, 결국 소수 빅테크의 독점이 공고해지는 결과를 낳게 됩니다.

인류를 파멸시킬 확률이 25%에 달한다고 경고하면서도 한편으로는 가장 빠르고 강력한 모델을 쉬지 않고 출시하는 행보는, 대중에게 신뢰를 주기보다는 막대한 투자금 유치와 안전 브랜딩 사이에서 아슬아슬하게 줄타기하는 빅테크의 민낯을 보여줍니다.