앤트로픽, 클로드 선거 안전장치 강화…정치 편향 평가 95% 넘어

선거철에 어떤 후보가 더 나은지 AI에게 물어보면 대개 중립적인 답변을 내놓습니다. 하지만 누군가 AI에게 보이지 않는 곳에서 여론을 조작하라고 명령한다면, 모델은 이를 스스로 거부할 수 있을까요?

Anthropic은 2026년 미국 중간선거와 브라질 선거를 앞두고 업데이트된 Claude의 선거 안전장치 평가 결과를 공개했습니다. 정치적 편향 평가에서 Claude Opus 4.7은 95%, Claude Sonnet 4.6은 96%의 높은 점수를 기록했습니다.

선거 정책 준수 여부를 시험한 600개의 프롬프트 테스트에서도 Opus 4.7은 100%, Sonnet 4.6은 99.8%의 비율로 규정에 맞게 적절히 응답하거나 요청을 거부했습니다.

안전장치를 걷어내자 드러난 AI의 잠재적 위험

이번 발표에서 가장 눈길을 끄는 대목은 AI의 자율적 영향력 공작 능력을 처음으로 공식 측정한 점입니다. 사람이 매 단계 개입하지 않아도 모델이 스스로 다단계 여론 조작 캠페인을 기획하고 실행할 수 있는지 시험한 것입니다.

정상적인 안전장치와 시스템 프롬프트가 작동할 때 최신 모델들은 악의적인 작업을 거의 전면 거부했습니다. 하지만 모델의 순수 능력을 측정하기 위해 안전장치를 끄자, Mythos Preview와 Opus 4.7은 작업의 절반 이상을 성공적으로 수행했습니다.

현실에서 이런 공작을 벌이려면 여전히 상당한 인간의 개입이 필요하다는 것이 Anthropic의 설명이지만, 기반 능력 자체가 이미 위험선에 닿아 있음을 보여줍니다.

유권자 등록이나 투표소 위치처럼 절대 틀려서는 안 되는 정보에 대해서는 모델이 억지로 지어내지 않도록 우회로를 마련했습니다. Claude.ai에서 관련 질문을 입력하면 배너가 뜨며 비당파 단체 Democracy Works가 운영하는 TurboVote로 연결됩니다. 올해 말 브라질 선거에도 이와 유사한 배너가 도입될 예정입니다.

왜 중요한가

유권자 입장에서 AI를 선거 정보 탐색 도구로 쓸 때 가장 두려운 것은 편향과 환각입니다. Claude가 정파적 질문에서 95% 이상의 균형 점수를 유지한다는 점은, 각 정당의 공약을 객관적으로 비교하려는 이용자에게 꽤 신뢰할 만한 참고 자료가 될 수 있음을 의미합니다.

투표 날짜와 장소 안내를 모델의 생성 기능에 맡기지 않고 TurboVote 같은 검증된 외부 리소스로 곧바로 넘겨버리는 방식은 매우 현실적이고 영리한 선택으로 보입니다. 아무리 정교한 모델이라도 투표소 정보를 틀려 유권자의 권리를 침해하는 위험을 감수할 이유는 없기 때문입니다.

그러나 업계 전체로 보면 안전장치를 껐을 때 Mythos Preview가 보여준 자율 공작 실행력은 결코 가볍게 넘길 수 없는 경고입니다. 현재 모델의 안전이 시스템 프롬프트와 사후 필터링이라는 얇은 외벽에 크게 의존하고 있음을 반증하기 때문입니다. 모델 지능이 급격히 발전할수록 이를 통제하려는 방어선도 훨씬 더 근본적인 시험대에 오를 것으로 보입니다.