앤트로픽, 이용 정책 개정: 에이전트 오용 규제하고 정책 연구는 허용

AI는 이제 대화창에 텍스트를 출력하는 수준을 넘어섰습니다. 지난 1년 사이 스스로 터미널 명령어를 입력하고 화면을 직접 제어하는 에이전트 형태로 빠르게 진화했습니다.

이러한 변화에 맞춰 Anthropic이 사용 정책 개정안을 공개했습니다. 새로운 정책은 2025년 9월 15일부터 적용되며, 자율형 에이전트에 대한 보안 기준을 강화하는 동시에 지나치게 엄격했던 정치 관련 규제를 일부 완화한 것이 핵심입니다.

에이전트 가이드라인 신설과 정치 분석 허용

가장 눈에 띄는 부분은 사이버 보안과 에이전트 활용에 대한 구체적인 기준입니다.

Anthropic은 Claude Code와 Computer Use 같은 도구를 연이어 선보이며 에이전트 생태계를 주도해 왔습니다. 이에 따라 발생할 수 있는 대규모 악용과 인프라 침해를 막기 위해 시스템 침해 행위를 명시적으로 금지 조항에 넣었습니다. 다만 시스템 소유자의 동의를 받은 취약점 점검 같은 합법적인 보안 활동은 계속 지원합니다.

그동안 지나치게 포괄적이었던 정치 콘텐츠 규제도 다듬어졌습니다. 기존에는 선거 및 로비 관련 콘텐츠를 전면 차단해 일반적인 정책 연구나 시민 교육까지 차단당하는 문제가 있었습니다.

이번 개정에서는 민주주의 절차를 방해하거나 유권자를 표적 공격하는 기만적 행위만 콕 집어 금지하고, 합법적인 정책 분석과 글쓰기는 허용하기로 방침을 바꿨습니다.

법률, 금융, 채용 등 고위험 영역의 규제 범위도 명확해졌습니다. 사람이 감독에 참여해야 하고 AI 사용 사실을 밝혀야 하는 의무는 최종 소비자를 직접 상대하는 서비스에만 적용되며, 기업 간 거래(B2B) 환경에서는 이 요건이 강제되지 않습니다. 사법기관의 감시나 생체 추적 금지 기조는 이전과 동일하게 유지됩니다.

왜 중요한가

Anthropic의 이번 개정은 AI 안전의 초점이 말실수 방지에서 실제 행동 통제로 이동했음을 보여줍니다.

실무자와 개발자 입장에서는 숨통이 트였습니다. 정책 연구자들은 계정 차단 걱정 없이 공공 정책 데이터를 다룰 수 있게 되었고, B2B 업무 솔루션을 개발하는 기업들도 소비자용 규제에 발목 잡히지 않고 비즈니스를 전개할 수 있습니다.

하지만 정책을 세우는 것과 현장에서 감시하는 것은 차원이 다른 문제입니다. Claude Code 같은 에이전트가 백그라운드에서 스크립트를 실행할 때, 정상적인 시스템 디버깅과 악의적인 침투 시도를 플랫폼이 어떻게 정확히 구별해낼지는 여전히 모호합니다.

경쟁사들이 기능 확장에만 매달릴 때 Anthropic이 B2B와 B2C, 연구와 침해의 경계를 선제적으로 정리한 것은 실용적인 판단입니다. 결국 다가올 에이전트 경쟁에서는 약관 문구보다 실제 오작동과 오용을 실시간으로 차단하는 기술력이 성패를 가를 것으로 보입니다.