세일즈포스, 엔비디아 네모트론 기반 CRM 추론 모델 '코아' 공개: 정확도 11% 개선

기업들이 AI 에이전트를 도입할 때 가장 주저하는 이유는 두 가지입니다. 민감한 내부 고객 데이터가 외부 독점 모델로 유출될 수 있다는 우려, 그리고 단순한 업무 처리에 범용 모델의 비싼 토큰 비용을 치러야 한다는 부담입니다.

Salesforce는 9월 15일 연례 콘퍼런스 드림포스(Dreamforce)에서 CRM 전용 추론 모델인 ‘Koa’를 발표했습니다. NVIDIA의 오픈 모델인 네모트론(Nemotron 3 Super)을 기반으로 맞춤 훈련된 이 모델은 기업의 데이터 보안 경계 안에서 복잡한 다단계 업무를 스스로 추론해 처리합니다.

고객 데이터 학습 배제하고 27년 노하우를 합성 데이터로 주입

그동안 Salesforce의 Agentforce 플랫폼은 간단한 작업에는 소형 특화 모델을 썼지만, 여러 단계를 거치는 고난도 추론 작업은 게이트웨이를 통해 Claude나 ChatGPT 같은 외부 프론티어 모델로 라우팅해 왔습니다.

Salesforce AI 총괄 부사장 Jayesh Govindarajan은 출처가 불분명한 오픈 모델을 배제해 오다, 데이터 출처가 투명하고 주권 요건을 만족하는 NVIDIA 네모트론이 등장하면서 비로소 독자적인 엔터프라이즈 추론 모델을 개발하게 됐다고 설명했습니다.

Koa 훈련에는 실제 고객 데이터가 단 한 건도 쓰이지 않았습니다. 대신 Salesforce는 지난 27년간 축적된 CRM 워크플로와 운영 정책을 바탕으로 제조, 금융, 의료, 여행 등 14개 이상 산업의 업무 환경을 시뮬레이션한 합성 데이터를 전면 활용했습니다. 화가 난 고객의 문의부터 거래 성사 과정까지 가상의 페르소나와 도구 호출 시나리오를 구성해 모델을 사후 학습시켰습니다.

Koa는 일관된 결과 보장을 위해 온도(temperature) 0 설정과 전용 서빙 하네스 기반으로 Salesforce 인프라 내부에서만 실행됩니다. Salesforce의 CRM Bench 평가에서 Koa는 평균 0.86점을 기록해 Claude Opus 4.8(0.87점), GPT-5.5(0.90점)에 근접했습니다. 기존 범용 모델 대비 올바른 작업 호출 정밀도는 11% 향상되었으며, 오류 발생률은 3분의 1 수준으로 줄였습니다.

현재 Koa는 Salesforce 사내 Slack 어시스턴트에 적용된 상태이며, 시카고대 병원, Formula 1, Xero, 벡스터 신용조합 등에서 파일럿 테스트를 진행 중입니다. 2026년 겨울 미국 지역에 정식 출시될 예정입니다. 한편 Salesforce는 Anthropic과의 협력을 병행해 Claude 환경에서 37개 영업 스킬을 활용할 수 있는 ‘Claudeforce’도 함께 공개했습니다.

왜 중요한가

기업의 IT 및 운영 책임자 입장에서 Koa는 상용 프론티어 모델에 묶여 있던 토큰 비용을 낮출 수 있는 실질적인 대안입니다. 복잡한 과학 연산이 아니라 고객 문의 분류, 일정 조율, 기회 정보 업데이트 같은 반복적인 워크플로를 수행하는 데는 불필요하게 거대한 범용 모델보다 정밀한 도구 호출 능력을 갖춘 특화 모델이 훨씬 유리합니다. 겨울에 정식 출시되면 샌드박스 환경에서 기존 외부 API 대비 처리 속도와 실패율을 직접 비교해 볼 가치가 충분합니다.

업계 차원에서 보면 이는 거대 SaaS 기업이 AI 파운데이션 모델 기업들의 지배력에 제동을 거는 전략적 행보입니다. OpenAI나 Anthropic이 직접 엔드포인트를 장악해 소프트웨어 플랫폼을 단순한 백엔드 DB로 격하시키려는 상황에서, Salesforce는 오픈 가중치 기반 모델을 자체 인프라에 안착시켜 협상력을 확보하고 마진을 지켜냈습니다.

다만 Salesforce가 Anthropic의 핵심 파트너이자 유통 채널 역할을 맡는 동시에 Koa로 경쟁 구도를 형성하는 이중적인 구조는 운영상 긴장을 유발할 수 있습니다. 또한 통제된 합성 데이터로 학습된 모델이 현업의 불규칙하고 정제되지 않은 데이터 환경에서도 동일한 정확도를 유지할 수 있을지는 본격적인 상용화 이후 면밀히 지켜봐야 할 대목입니다.