앤트로픽, 차세대 '모델 2' 위험 평가 공개…AI 자체 진화 가속 조짐

AI 모델이 계속 발전하고 있지만, 그 성능을 측정하던 기존의 '자'는 한계에 부딪히고 있습니다.

앤트로픽이 8월 위험 보고서를 통해 현재 내부 주력 모델인 '모델 2'의 평가 결과를 공개했습니다. 모델 2는 이전 세대인 미소스 5를 앞섰으나, 과거 오퍼스 4.6에서 미소스 프리뷰로 넘어갈 때 보였던 큰 폭의 도약은 나타나지 않았습니다. 앤트로픽 스스로도 세대 간 격차가 줄어드는 감속 형태를 보이고 있으며, RSP(책임 있는 확장 정책) 위험 임계치에는 도달하지 못했다고 판단했습니다.

방어적 엔지니어링과 벤치마크의 한계

단순 성능 수치보다 눈에 띄는 것은 개발 환경의 변화입니다. 앤트로픽은 경쟁사가 모델 출력을 흡수하지 못하도록 막는 '증류 방지'를 이미 일상적인 정규 엔지니어링 작업으로 투입하고 있습니다.

더 큰 문제는 기존 태스크 기반 벤치마크의 정밀도가 떨어져 모델의 실제 능력 향상을 측정하기 어려워졌다는 점입니다. 그러면서도 앤트로픽은 재귀적 자기 개선(RSI) 영역에서 가속화의 초기 징후를 확인했다고 밝혔으나, 구체적인 세부 내용은 가려두었습니다.

왜 중요한가

이번 보고서는 프론티어 AI 개발이 새로운 국면에 접어들었음을 보여줍니다.

기존 방식의 세대 간 비약이 둔화되면서, 선두 연구소들은 모델 성능 향상뿐 아니라 증류 방지와 같은 방어선 구축에 많은 자원을 투입하고 있습니다.

더 본질적인 문제는 평가 체계의 실종입니다. 기존 벤치마크가 무력화되는 상황에서 AI의 자체 진화 징후가 나타나기 시작했다면, 앞으로의 가장 큰 과제는 진화 그 자체보다 이를 안전하게 측정할 수 있는 새로운 도구를 확보하는 일이 될 것으로 보입니다.