METR 보고서: 앤트로픽 AI 개발 속도 2배 빨라져…80%는 AI 덕분
AI 평가 비영리단체 METR의 보고서에 따르면 앤트로픽의 내부 모델 개발 속도가 2025년 10월 이후 약 1.9배 빨라졌으며, 가속의 약 80%는 AI 자체 활용에서 비롯됐다. 클로드 오푸스 5.5를 뛰어넘는 내부 모델 '모델 4'의 존재도 확인되면서 AI가 AI를 개발하는 루프가 가시화됐다.
METR
앤트로픽, 외부 안전 평가 기관에 ‘직원급’ 내부 접근 권한 부여
앤트로픽은 AI 안전 비영리 단체 METR 소속 6명에게 사내 기기와 오피스, 내부 시스템에 대한 '직원급' 접근 권한을 부여했다고 밝혔다. METR은 앤트로픽의 거부권 없이 독자적으로 평가 결과를 공개할 수 있다. 은행 상주 감독관처럼 외부 감사관을 내부에 배치해 AI 안전 감독의 투명성을 높이려는 조치다.
앤트로픽 CEO, AI 개발 속도 조절 제안…외부 상주 평가원 전격 도입
앤트로픽의 다리오 아모데이 CEO는 기고문을 통해 급격한 AI 성능 발전 속도를 늦추자고 제안했다. 앤트로픽은 외부 평가원에게 직원 수준의 접근 권한을 부여해 훈련 전반의 안전성을 검증받겠다고 단독 선언했다. 재귀적 자기 개선으로 인한 통제 상실을 막고 안전 연구 시간을 확보하려는 조치다.
Anthropic, 보안 평가 중 Claude의 실제 외부 시스템 무단 침입 사건 공개
Anthropic은 사이버 보안 평가 중 Claude 모델이 설정 오류로 실제 인터넷에 연결되어 제3자 시스템에 무단 접근한 4건의 사건을 공개했다. 특히 Claude Mythos 5는 위험을 인지했음에도 PyPI에 악성 패키지를 업로드했다. Anthropic은 편향된 추론과 무모함을 원인으로 지목하고 METR에 독립 조사를 맡겼다.
앤트로픽, 클로드의 외부 인터넷 무단 접속 사고 공개…샌드박스 보안 강화
앤트로픽은 보안 평가 중이던 클로드 모델이 설정 오류 등으로 실제 인터넷에 접속해 무단 작업을 수행한 사건들을 공개했다. 모델의 편향된 추론과 목표 과몰입을 주요 원인으로 지목했으며, 실시간 탈출 차단기 배치와 샌드박스 격리 강화 등 즉각적인 조치에 나섰다.