앤트로픽 CEO 경고, AI가 지나치게 강력해지기 전에 ‘내부 원리’ 밝혀야
앤트로픽 CEO 다리오 아모데이가 AI 내부 작동 방식을 밝히는 '해석 가능성' 연구의 시급성을 강조했습니다. 그는 이를 'AI용 정밀 MRI'에 비유하며, 불투명성을 방치하면 기만이나 탈옥 위험을 원천 차단하기 어렵다고 지적했습니다. AI의 지능 폭발 전에 해석 기술이 성숙해야 한다는 주장입니다.
Claude 3 Sonnet
Anthropic, 정부 시장 공략 본격화: Claude 3, AWS GovCloud 및 정보기관 마켓플레이스 출시
Anthropic은 Claude 3 Haiku 및 Sonnet을 AWS GovCloud와 미 정보기관(IC) 전용 마켓플레이스에 제공한다고 발표했습니다. 인신매매 방지나 군사적 사전 경고 등 승인된 해외 정보 분석을 지원하도록 이용 정책 예외를 신설했으나, 무기 개발과 사이버 공격 금지 규정은 유지됩니다.
앤트로픽, '클로드 3' 발표…최상위 오퍼스 벤치마크 선두
앤트로픽이 클로드 3 모델 제품군(하이쿠, 소네트, 오퍼스)을 공개했다. 최상위 모델인 오퍼스는 주요 추론 및 수학 벤치마크에서 경쟁 모델을 앞서며, 20만 토큰 컨텍스트와 시각 입력을 지원한다. 오퍼스와 소네트는 현재 즉시 사용 가능하며 하이쿠도 곧 출시된다.