엔비디아, '오토 온톨로지' 오픈소스 공개: AI가 기업 데이터를 엉터리로 조회하지 않도록 지원

대규모 언어 모델에 회사 데이터베이스 조회를 맡기면 엉뚱한 결과가 나오기 십상입니다. 지난 분기 특정 부서 매출을 물어보면 그럴듯한 SQL 쿼리를 만들어 내지만, 실제 데이터베이스에는 해당 명칭의 컬럼이 없어 완전히 잘못된 숫자를 태연하게 답하곤 합니다.

매출이라는 단어 하나만 해도 주문일, 출고일, 세금계산서 발행일 중 무엇을 기준으로 삼아야 하는지 AI는 알지 못합니다. 엔비디아가 오픈소스로 공개한 Auto Ontology는 바로 이 비즈니스 맥락의 간극을 메우기 위해 등장했습니다.

분석가의 머릿속 지식을 AI가 읽을 수 있는 그래프로 변환

Auto Ontology는 아파치 2.0 라이선스로 배포되는 파이썬 프레임워크입니다. 단순히 자연어를 SQL로 바꾸는 데 그치지 않고, 원시 데이터와 AI 에이전트 사이에 시맨틱 추론 계층을 세워 주는 역할을 합니다.

데이터베이스에 연결하면 메타데이터를 자동으로 분석해 테이블 구조와 업무 엔티티 간의 관계를 지식 그래프 형태로 정리합니다. 회사 안에서 제각각 쓰이던 비즈니스 용어와 지표 정의를 표준화된 체계로 묶어 내는 방식입니다.

사용자가 일상적인 자연어로 질문하면 시스템은 공인된 기준에 맞춰 SQL을 생성합니다. 만약 광고 효율을 계산하려는데 비용 데이터가 누락되어 있다면 억지로 숫자를 지어내지 않고 데이터가 부족하다는 점을 사용자에게 먼저 알립니다. 모든 답변에는 실행된 SQL과 데이터 출처가 함께 표기되어 검증이 가능합니다.

현업 실무자가 웹 화면에서 잘못 매핑된 지표나 테이블 관계를 수정하면, 이 교정 내역이 다시 온톨로지에 반영되어 질문이 누적될수록 정확도가 점차 높아지는 피드백 구조를 갖췄습니다.

엔터프라이즈 환경을 고려한 아키텍처와 MCP 지원

기술 구성 역시 실무 도입을 염두에 두고 설계되었습니다. 프론트엔드는 Next.js 16과 Better Auth를 사용하고, 백엔드는 FastAPI와 랭체인 기반이며, 메타데이터와 벡터 임베딩은 pgvector가 적용된 포스트그레스큐엘에 저장됩니다.

모델 추론에는 엔비디아 NIM 서비스를 활용해 네모트론-3 계열의 모델들이 개체 추출과 질의 생성을 처리합니다. 데이터베이스 접속 암호를 평문으로 보관하지 않도록 하시코프 볼트와의 연동도 지원합니다.

특히 모델 컨텍스트 프로토콜을 지원해 기본 웹 인터페이스뿐 아니라 커서나 클로드 데스크톱 같은 외부 에이전트 도구에서도 사내 데이터를 바로 조회할 수 있습니다. 다만 엔비디아는 현재 해당 리포지토리에서 외부 기여를 받지 않고 있다고 밝혔습니다.

왜 중요한가

우리는 엔비디아가 기업용 AI 도입의 가장 아픈 지점을 정확하게 공략했다고 평가합니다. 지금까지 텍스트 투 SQL 연구가 모델의 코드 생성 능력에만 집중했다면, 실제 기업 현장에서 실패하는 이유는 지표에 대한 내부 합의가 없었기 때문입니다.

데이터 분석가 입장에서는 매주 부서마다 지표 기준이 달라 설명하는 데 쏟던 시간을 크게 아낄 수 있습니다. 분석가의 머릿속에만 머물던 비즈니스 맥락을 소프트웨어 계층으로 정형화해, 영업 에이전트든 재무 에이전트든 동일한 기준으로 데이터를 조회하게 만듭니다.

업계 관점에서도 엔비디아의 영리한 생태계 확장이 돋보입니다. 오픈소스 데이터 인프라를 제공하는 척하면서 자사의 NIM 마이크로서비스와 네모트론 모델 소비를 자연스럽게 유도하고 있습니다. 기업의 데이터 기반 추론 작업을 자사 연산 파이프라인에 묶어 두려는 전략입니다.

다만 기존 데이터 레이크가 정리되어 있지 않고 컬럼 명세조차 불분명한 조직이라면, 초기 자동 생성된 온톨로지를 검수하는 데 여전히 적지 않은 수작업이 필요하다는 한계는 감안해야 합니다.