앤트로픽 클로드, 사진 속 위치 추적서 인간 능가…오차 37km에 불과
앤트로픽이 전술 정보 분석 능력을 측정한 레드팀 보고서를 공개했다. 프론티어 모델인 미소스(Mythos)는 6천 장의 사진 위치 추적 평가에서 중위 오차 37km를 기록해 최상위 게이머 수준을 앞질렀다. 소셜 계정 식별에서도 강력한 성능을 보여 앤트로픽은 즉각 오용 차단용 분류기를 도입했다.
Mythos 5
앤트로픽, 차세대 '모델 2' 위험 평가 공개…AI 자체 진화 가속 조짐
앤트로픽이 8월 위험 보고서를 통해 내부 주력 모델인 '모델 2'의 평가 결과를 공개했습니다. 모델 2는 미소스 5를 넘어섰으나 세대 간 성능 격차는 줄어들어 RSP 임계치에는 미치지 못했습니다. 앤트로픽은 증류 방지 작업을 정례화하는 한편, 기존 벤치마크 한계 속에서도 AI 재귀적 자기 개선(RSI)의 가속 징후를 확인했다고 밝혔습니다.
파이브 아이즈 이례적 공동 경고: 파괴적인 AI 사이버 공격, 몇 년 아닌 '불과 몇 달' 남았다
미국·영국 등 파이브 아이즈 사이버 보안 기관들이 프론티어 AI가 사이버 공격의 속도와 규모를 근본적으로 바꿀 것이라는 공동 경고를 발표했다. 당국은 공격 능력이 현 방어 체계를 넘어서는 시점이 몇 년이 아닌 '불과 몇 달' 남았다고 밝히며 구형 시스템 현대화를 촉구했다. 5개국 정보 당국이 AI 위협에 한목소리로 경고를 낸 것은 전례 없는 일이다.
앤트로픽·딥마인드 CEO, G7서 미국 주도 AI 연합 구축 제안
앤트로픽의 다리오 아모데이와 구글 딥마인드의 데미스 허사비스 CEO가 G7 비공개 오찬에서 미국이 주도하는 국제 AI 연합 구축을 촉구했다. 프론티어 모델 접근 통제와 대중국 반도체 무역 배제 등 협력을 제안했으며 캐나다 총리 등이 동의했다. 최근 미국 수출 규제로 최신 모델 배포가 중단된 앤트로픽의 상황과 맞물려 주목받고 있다.
美 수출통제 명령에…앤트로픽, 'Fable 5'와 'Mythos 5' 전면 중단
미국 정부가 국가안보를 이유로 외국인의 'Fable 5' 및 'Mythos 5' 접근을 차단하는 수출통제 지침을 내리자, 앤트로픽이 규정 준수를 위해 두 모델의 서비스를 전면 중단했다. 미 정부는 보안 탈옥 위험을 문제 삼았으나, 앤트로픽은 타사 모델에서도 가능한 일반적 수준이라며 반발하고 있다.