앤트로픽, AI 정렬 평가 도구 '페트리' 비영리단체 이관...Petri 3.0 공개

페트리(Petri)는 대형 언어 모델의 기만, 영합, 유해한 요청 협조 같은 정렬 위험을 빠르게 측정할 수 있는 오픈소스 평가 툴박스입니다.

작동 방식은 직관적입니다. 별도의 '감사' 모델이 정렬 관련 시나리오를 시뮬레이션해 대상 모델과 대화하고, 또 다른 '심사' 모델이 대화 기록을 채점해 부적절한 행동을 감지합니다. 앤트로픽 내부에서는 Claude Sonnet 4.5 이후 모든 모델 평가에 활용해 왔으며, 영국 AI 보안 연구소도 AI 연구를 방해하려는 모델의 성향을 평가할 때 페트리를 핵심 도구로 채택했습니다.

Petri 3.0에서 달라진 점

이번 Petri 3.0 업데이트의 핵심은 적응성, 현실성, 평가 깊이 개선입니다.

평가 환경이 인위적이면 모델이 테스트 상황임을 감지하고 본래의 성향을 숨기는 문제가 있었습니다. 3.0에 추가된 'Dish' 플러그인은 실제 배포 환경에서 쓰이는 시스템 프롬프트와 외부 제어 소프트웨어를 그대로 적용해 실제 서비스 환경과 유사한 조건에서 평가를 진행합니다.

아키텍처 역시 감사 모델과 대상 모델을 완전히 분리해 사용자가 필요에 따라 개별적으로 튜닝할 수 있도록 개편되었습니다. 또한 특정 행동을 깊이 있게 파고드는 앤트로픽의 또 다른 오픈소스 도구인 Bloom과의 연동도 지원합니다.

이와 함께 앤트로픽은 페트리의 개발 주관을 AI 평가 비영리단체인 메리디안 랩스로 이관했습니다. MCP를 리눅스 재단에 기증했던 것과 마찬가지로, 특정 연구소에 종속되지 않고 업계 전반에서 중립적인 신뢰를 얻기 위한 결정입니다. 현재 페트리는 메리디안 랩스의 Inspect, Scout 등과 함께 오픈소스 평가 스택을 구성하고 있으며, 설치 및 사용 방법은 페트리 공식 웹사이트에서 확인할 수 있습니다.

왜 중요한가

오픈 가중치 모델을 미세조정하거나 자율형 에이전트를 실서비스에 올리는 개발팀이라면, 안전성 검증 프로세스를 자동화하는 도구로 도입해 볼 가치가 충분합니다.

모델 개발사가 만든 평가 도구는 중립성 시비에 휘말리기 쉬운데, 이를 독립 비영리단체에 넘긴 선택은 전략적으로 현명해 보입니다. 업계와 규제 기관 모두가 신뢰할 수 있는 공통 벤치마크 기반이 마련된 셈입니다.