앤트로픽, AI 정렬 평가 도구 '페트리' 비영리단체 이관...Petri 3.0 공개
앤트로픽은 오픈소스 AI 정렬 평가 도구인 '페트리(Petri)'를 비영리 평가 기관 메리디안 랩스에 기증하고 Petri 3.0을 공개했다. 이번 버전은 감사 모델과 대상 모델을 분리하고 실제 배포 환경을 시뮬레이션하는 'Dish'를 추가했으며 Bloom과 연동된다. 특정 연구소에 종속되지 않고 평가의 독립성을 확보하기 위한 조치다.
Petri
앤트로픽, AI 감사 도구 'Petri' 오픈소스 공개: 모델 일탈 행위 자동 검증
Anthropic은 AI 안전성 감사 도구 Petri를 오픈소스로 공개했습니다. 감사 에이전트가 다중 턴 대화를 시뮬레이션해 기만, 자기보존 등 모델의 위험 행동을 자동으로 탐지하고 점수를 매깁니다. 14개 첨단 모델을 테스트한 결과 Claude Sonnet 4.5가 GPT-5를 제치고 가장 위험도가 낮은 것으로 나타났습니다.