앤트로픽, 웹 브라우저 조작하는 'Claude in Chrome' 확장 프로그램 공개

AI에게 이메일 정리를 맡겼더니 웹페이지 구석에 숨겨진 악성 명령어를 읽고 받은편지함을 몽땅 날려버리는 사고가 일어났습니다. 가상의 경고가 아니라, Anthropic이 자체 보안 테스트에서 실제로 확인한 사례입니다.

Anthropic은 브라우저 내에서 직접 동작하는 AI 에이전트 확장 프로그램인 Claude in Chrome을 선보였습니다. 초기에는 월 100달러에서 200달러 상당의 Max 플랜 구독자 1,000명을 대상으로 파일럿을 진행했으며, 이후 모든 Max, Pro, Team, Enterprise 유료 플랜으로 지원을 확대했습니다. 터미널 기반 개발 도구인 Claude Code와도 연동되어, 콘솔 에러와 DOM 상태를 실시간으로 읽어가며 디버깅하는 기능까지 추가되었습니다.

숨겨진 웹 코드의 덫, 프롬프트 인젝션과의 싸움

브라우저에서 직접 버튼을 누르고 양식을 채우는 에이전트는 매우 유용하지만, 그만큼 해킹 위험에 직접적으로 노출됩니다.

가장 큰 위협은 웹사이트나 이메일 코드 속에 교묘히 숨겨진 간접 프롬프트 인젝션입니다. 악성 텍스트를 심어 AI가 지시를 무시하고 엉뚱한 행동을 하도록 유도하는 방식입니다. Anthropic이 보호 조치 없는 자율 모드에서 29개 공격 시나리오, 총 123개 테스트를 수행한 결과 공격 성공률은 23.6%에 달했습니다. 보안 점검을 핑계로 이메일을 삭제하라는 가짜 메일을 읽고 실제 사용자 메일을 전부 지워버린 사건도 이 과정에서 발생했습니다.

이에 대응해 Anthropic은 여러 겹의 방어선을 세웠습니다. 결제나 발행, 개인정보 공유 등 위험도가 높은 작업은 반드시 사용자의 확인을 거치도록 했고, 금융 서비스, 성인물, 불법 복제 사이트 등 위험군 웹사이트는 기본적으로 접근을 차단했습니다.

특히 보이지 않는 DOM 입력창이나 URL, 탭 제목에 숨겨진 브라우저 특화 공격 4종에 대해서는 방어책을 적용해 공격 성공률을 기존 35.7%에서 0%로 완전히 차단했습니다. 전체 인젝션 공격 성공률 역시 23.6%에서 11.2%로 크게 낮췄습니다.

브라우저로 옮겨간 AI 에이전트 전쟁

현재 생성형 AI 진영의 최대 격전지는 브라우저입니다. Perplexity는 에이전트가 내장된 Comet 브라우저를 출시했고(출시 직후 Brave 보안팀에 의해 인젝션 취약점이 지적된 뒤 수정됨), OpenAI 역시 자체 브라우저 출시설이 돌고 있으며, Google은 Chrome에 Gemini를 공격적으로 밀어 넣고 있습니다.

Anthropic은 2024년 10월 컴퓨터 화면 전체를 제어하는 Computer Use를 선보였지만, 당시에는 속도가 느리고 안정성이 떨어졌습니다. 이번 Chrome 확장은 웹 표준 인터페이스를 직접 다루는 만큼 체감 반응과 정확도가 크게 개선되었습니다.

왜 중요한가

우리는 Anthropic이 에이전트의 화려한 기능보다 인젝션 공격 성공률이라는 치명적인 수치를 투명하게 공개한 점에 주목해야 한다고 봅니다. 다른 기업들이 장밋빛 자동화를 내세울 때, 여전히 11.2%의 공격 성공 가능성이 존재한다는 현실을 솔직하게 인정한 셈입니다.

사용자 입장에서 이번 확장은 분명 매력적입니다. 특히 개발자라면 터미널의 Claude Code와 연계해 브라우저 DOM 에러를 자동으로 잡는 작업 흐름만으로도 도입할 가치가 충분합니다. 다만 일상 업무에 쓰더라도 금융 거래나 주요 회사 계정처럼 보안이 중요한 영역은 절대 에이전트에 완전히 넘겨서는 안 됩니다.

산업 측면에서는 웹 에이전트의 보안 기준선을 한 단계 끌어올렸습니다. 사용자 대신 웹을 돌아다니는 에이전트를 만들려면 이제 단순한 작업 완수율뿐 아니라 보이지 않는 악성 코드를 얼마나 잘 걸러내는지 보안 검증 데이터를 증명해야 하는 시대가 열렸습니다.