MS, Azure AI Foundry에 GPT-4.5 프리뷰 및 대규모 에이전트 도구 추가

기업들이 AI를 도입할 때 가장 골머리를 앓는 문제는 단순히 어떤 모델을 고를지가 아닙니다. 사내 데이터가 외부로 새어나가지 않을지, 감당하기 힘든 API 비용을 어떻게 줄일지, 그리고 수많은 AI 에이전트가 꼬이지 않고 협업할 수 있을지가 진짜 숙제입니다.

마이크로소프트가 2월 27일 엔터프라이즈 AI 플랫폼인 Azure AI Foundry의 대규모 업데이트를 발표했습니다. OpenAI의 최신 플래그십 모델인 GPT-4.5 프리뷰를 비롯해, 경량 특화 모델과 지식 증류 도구, 수백 개의 에이전트를 조율하는 관리 아키텍처를 한꺼번에 공개했습니다.

거대 모델 GPT-4.5부터 고효율 소형 모델까지

가장 큰 관심은 Azure OpenAI Service와 GitHub Copilot Chat 기업용 버전에 추가된 GPT-4.5입니다. 마이크로소프트에 따르면 GPT-4.5는 GPT-4o 대비 환각 비율이 61.8%에서 37.1%로 대폭 줄었고, 정확도는 38.2%에서 62.5%로 크게 올랐습니다.

하지만 마이크로소프트는 고비용 거대 모델만 밀어붙이지 않았습니다. 플랫폼 내 지원 모델이 1,800개를 돌파한 가운데, 효율성을 앞세운 맞춤형 모델들도 대거 투입했습니다.

자체 소형 모델인 Phi 제품군에서는 텍스트와 음성, 비전을 결합해 오프라인 매장 키오스크 등에서 쓸 수 있는 Phi-4-multimodal과, 38억 개 매개변수와 128K 컨텍스트를 갖추고 추론 속도를 30% 높인 Phi-4-mini를 선보였습니다. 여기에 Stability AI의 최신 이미지 생성 모델들과 100개 이상의 언어를 지원하는 Cohere Rerank v3.5, 실시간 음성 상호작용을 지원하는 GPT-4o 오디오 프리뷰까지 채워 넣었습니다.

대형 모델 증류와 가상 네트워크 기반 에이전트

거대 모델의 비용을 줄이기 위한 증류 워크플로도 핵심 기능으로 자리잡았습니다. 개발자는 API와 SDK를 통해 GPT-4.5가 가진 복잡한 문제 해결 지식을 소형 모델로 전달하여, 특정 업무에 필요한 성능을 유지하면서도 호출 비용과 지연 시간을 획기적으로 낮출 수 있습니다.

보안과 확장성을 고려한 에이전트 인프라도 보강되었습니다. Azure AI Agent Service에 자체 가상 네트워크 연결 기능이 추가되어, 에이전트 간의 통신과 데이터 처리가 공용 인터넷을 거치지 않고 고객사의 폐쇄망 안에서만 안전하게 이뤄집니다. 후지쯔는 이 방식을 적용한 영업 제안서 에이전트를 통해 매출을 67% 끌어올렸다고 밝혔습니다.

복잡한 다중 에이전트 협업을 위해 Magma 아키텍처도 시험 공개되었습니다. 수백 개의 AI 에이전트를 병렬로 동시 조율하여 공급망 최적화 같은 거대한 비즈니스 워크플로를 처리할 수 있도록 돕는 시스템입니다.

왜 중요한가

마이크로소프트의 이번 발표는 AI 벤치마크 경쟁을 넘어 실제 기업의 지갑 사정과 보안 요구를 꿰뚫어 본 현실적인 행보로 평가할 수 있습니다.

실무진과 기업 입장에서 가장 반가운 부분은 명확해진 비용 절감 및 보안 경로입니다. 모든 요청을 비싼 GPT-4.5로 보낼 필요 없이, 대형 모델에서 노하우를 증류해 Phi-4나 Mistral 같은 소형 모델로 내려받은 뒤 이를 폐쇄망 내에서 돌리는 엔드투엔드 파이프라인이 완성되었기 때문입니다.

클라우드 시장 전반에도 큰 영향을 미칠 것으로 보입니다. 이제 경쟁의 중심은 단순히 좋은 모델 API를 파는 것을 넘어, 수백 개의 에이전트를 엮어내는 오케스트레이션과 네트워크 격리 인프라로 이동하고 있습니다. 이는 AWS나 구글 클라우드 역시 에이전트 관리 및 폐쇄망 보안 체계를 대폭 끌어올리도록 압박할 것입니다.

다만 완전한 자율화까지는 신중할 필요가 있습니다. GPT-4.5의 환각률이 37.1%로 낮아졌다고는 하나, 절대적인 오류가 허용되지 않는 금융이나 법률 핵심 업무에서는 여전히 인간의 개입이 필수적입니다. 또한 Magma처럼 수백 개의 에이전트가 얽혀 돌아갈 때 특정 지점에서 오류가 발생하면 원인을 추적하고 디버깅하기가 매우 까다로울 수 있습니다.