NVIDIA, 스토리지 기업과 협력해 에이전틱 AI 지원 'AI 데이터 플랫폼' 공개

기업들이 업무 자동화를 위해 AI 에이전트를 도입하려 할 때 가장 먼저 부딪히는 벽은 모델 성능이 아니라 데이터입니다. 사내 서버에 쌓여 있는 수백만 건의 PDF와 영상 문서를 AI가 실시간으로 읽어내지 못하기 때문입니다.

스토리지와 연산 장치가 멀리 떨어져 있으면 검색 증강 생성(RAG) 과정에서 극심한 지연이 발생합니다. NVIDIA는 5월 19일, 이를 해결하기 위해 글로벌 스토리지 및 서버 제조사와 협력한 새로운 표준 설계 'NVIDIA AI Data Platform'을 공개했습니다.

스토리지 바로 옆으로 연산 장치를 옮기다

기존 방식에서는 스토리지가 단순한 파일 보관소에 불과해, 데이터를 GPU 서버로 일일이 전송해 처리해야 했습니다. 데이터 규모가 커질수록 네트워크 대역폭이 바닥나기 일쑤였습니다.

이번 설계는 연산 장치를 스토리지 바로 곁에 배치하는 것이 핵심입니다. 시스템 내부에는 NVIDIA RTX PRO 6000 Blackwell Server Edition GPU, BlueField DPU, Spectrum-X 이더넷 네트워킹이 결합됩니다.

이를 통해 스토리지 단에서 NVIDIA NeMo Retriever 마이크로서비스를 직접 실행할 수 있습니다. 방대한 문서를 그 자리에서 실시간으로 색인하고 검색해 에이전트의 추론 속도와 정확도를 대폭 끌어올립니다.

글로벌 스토리지 기업과 대만 ODM의 총출동

참여 기업들의 면면도 화려합니다. Dell Technologies, HPE, IBM, NetApp, Pure Storage, VAST Data, WEKA 등 대표 스토리지 기업들이 해당 설계를 기반으로 제품을 출시합니다.

NetApp은 이 설계를 적용한 AIPod 솔루션을 선보였고, IBM은 Red Hat OpenShift 기반 IBM Fusion에 콘텐츠 인식 스토리지를 통합했습니다.

대만 하드웨어 ODM 제조사들도 발 빠르게 움직이고 있습니다. Foxconn, Quanta Cloud Technology(QCT), ASUS, Supermicro, Wistron, Wiwynn 등이 BlueField DPU와 Blackwell GPU를 탑재한 맞춤형 서버 하드웨어를 공급합니다.

왜 중요한가

사내 문서를 기반으로 AI 에이전트를 구축하려는 기업에게 이번 발표는 실질적인 해결책이 될 수 있습니다. 복잡한 RAG 파이프라인을 밑바닥부터 구축할 필요 없이, 기존 스토리지 벤더의 보안과 권한 관리 체계를 유지하면서 고성능 검색 인프라를 도입할 수 있기 때문입니다.

AI 업계 전체로 보면 NVIDIA의 영토 확장이 스토리지 랙 내부까지 깊숙이 침투했다는 점을 보여줍니다. GPU 연산 시장을 장악한 데 이어, DPU와 자체 네트워크 스위치, 검색 소프트웨어까지 기업 데이터센터의 표준 인프라로 굳히려는 전략입니다.

스토리지 제조사들에게 AI 시대의 생존 티켓을 쥐여주며 생태계를 넓힌 방식은 영리해 보입니다. 다만 기업 입장에서는 스토리지 하드웨어부터 소프트웨어 API까지 NVIDIA 생태계에 완전히 종속될 수 있다는 점이 장기적인 부담으로 남습니다.