리걸 AI 하비, 변호사 평가서 우위 보인 '에이전트 워크플로' 공개

법률 업무에 생성형 AI를 쓰려다 보면, 프롬프트를 완벽하게 짜느라 차라리 직접 쓰는 게 낫겠다는 생각이 들 때가 많았습니다.

법률 AI 전문 기업 하비(Harvey)가 3월 11일, 한 단계 진화한 AI 에이전트 시스템을 공개하고 이를 플랫폼 내 '어시스턴트 워크플로(Assistant Workflows)' 형태로 탑재한다고 발표했습니다. 정식 출시는 3월 말로 예정되어 있습니다.

추론 모델의 발전을 바탕으로, 단순한 일회성 질의응답을 넘어 실제 변호사의 업무 방식을 모사하는 에이전트 환경을 구축했다는 설명입니다.

프롬프트 입력 대신 'AI가 역으로 질문하는' 구조

하비는 자체 AI 체계를 단일 모델, 모델 시스템, 에이전트의 3단계로 구분해 설명합니다. GPT-4o나 o1 같은 모델에 RAG나 검색 도구를 붙인 기존 시스템은 정해진 경로만 따라가는 선형적 구조에 불과했습니다.

반면 새로 도입된 에이전트는 복잡한 업무를 단계별로 쪼개는 계획(Plan), 결과에 따라 방식을 바꾸는 적응(Adapt), 사람에게 필요한 정보를 요청하는 상호작용(Interact) 역량을 갖췄습니다.

실무자가 장문의 프롬프트를 고민할 필요 없이, 소송이나 기업 거래 워크플로를 시작하면 에이전트가 먼저 필요한 배경 맥락을 짚어내며 질문을 건넵니다.

여기에 '생각 상태(thinking states)' 표시 기능을 도입해, AI가 어떤 판단 과정을 거쳐 작업을 진행하고 있는지 중간 단계를 투명하게 확인할 수 있도록 했습니다.

법정 녹취록 분석 블라인드 테스트서 변호사 앞서

이번 워크플로는 기업 거래, 송무, 금융 서비스 등 고부가가치 법률 업무를 겨냥했습니다. 하비는 통상 변호사가 1시간 이상 투입해야 하는 실무 과제를 두고 실제 변호사들과 블라인드 비교 평가를 진행했습니다.

공시 문서(1.01 disclosure) 초안 작성이나 주요 사건의 시계열 정리 같은 구조화된 과제에서는 인간 변호사와 동등한 수준의 작업물을 산출했습니다.

눈에 띄는 부분은 비정형 분석 과제였습니다. 법정 심리 녹취록을 분석하는 테스트에서 평가에 참여한 변호사들은 인간 변호사의 결과물보다 하비의 결과물을 더 선호했습니다. 분석의 깊이와 세부 사항의 구체성 면에서 실무에 바로 쓰기 더 적합했다는 평가를 받았습니다.

왜 중요한가

법률 실무자 입장에서 이번 개편은 프롬프트 엔지니어링의 스트레스를 덜어준다는 점에서 실질적인 효용이 큽니다. 방대한 분량의 기록 검토나 정형화된 서면 초안 작성을 에이전트 주도로 풀어나갈 수 있어, 3월 말 정식 출시 이후 즉시 실무 테스트를 진행해 볼 가치가 충분합니다.

산업 전반으로 보면, 버티컬 AI 경쟁이 단순한 '검색 증강(RAG) 래퍼' 수준을 벗어나 정교한 에이전트 워크플로 설계 싸움으로 넘어갔음을 보여줍니다. 오류에 민감한 전문직 시장에서는 일방적인 답변보다 능동적으로 확인하고 단계를 밟아가는 시스템이 필수적입니다.

우리가 보기에 하비가 의사결정 과정을 투명하게 보여주는 '생각 상태'를 전면에 내세운 점은 매우 영리한 선택입니다. 보수적인 로펌과 기업 법무팀의 신뢰를 얻기 위한 현실적인 해법이기 때문입니다.

다만 블라인드 평가에서 AI가 주니어 변호사를 능가하는 결과물을 냈다는 점은 양날의 검입니다. 결과물의 완성도만 믿고 최종 검토를 소홀히 할 경우 발생할 수 있는 잠재적 법적 위험을 어떻게 방지할지가 향후 실무 도입의 핵심 과제가 될 것으로 보입니다.