微软 Azure ND H100 v5 虚拟机上线：配 8 张 H100，OpenAI 服务扩至 5 区

现在的大模型军备竞赛，表面上看是比谁的模型更聪明，底下其实全在拼谁家的算力机房更能扛。

微软宣布 Azure ND H100 v5 虚拟机系列正式商用，同时把 Azure OpenAI 服务扩展到了澳大利亚、加拿大、日本和英国等更多地区。

算力饥渴的大模型时代，微软正在把全球云基础设施的发条拧到最紧。

单机八张 H100，底层网络全拉满

这次正式上线的 ND H100 v5 虚拟机，基本就是为了应对超大模型训练和推理专门定制的怪兽。

每台虚拟机直接塞进 8 张英伟达 H100 Tensor Core GPU，配合第四代英特尔至强可扩展处理器和 DDR5 内存。

GPU 之间走的是 PCIe Gen5，单卡带宽给到 64GB/s。跨节点互联则用上了英伟达 Quantum-2 ConnectX-7 InfiniBand，单卡 400Gb/s，整机跨节点带宽拉到了 3.2 Tb/s。

在数据吞吐上，新机器采用 8 位 FP8 浮点计算时，矩阵乘法速度比上一代 FP16 提速最高达 6 倍。

拿 BLOOM 175B 这样的大语言模型做端到端推理测试，速度直接翻了一倍。

这批机器先在美国东部和美国中南部两个区域开放。微软透露，目前他们正在利用一个 4K GPU 集群，并计划在下一年内将最新的 GPU 规模扩充到数十万张。

每天涌入百家企业，GPT-4 加速出海

除了底层硬件，上层的 Azure OpenAI 服务也在拼命铺点。

这次新开服的区域包括澳大利亚东部、加拿大东部、美国东部 2、日本东部和英国南部，加上之前的美东、法国中部、美中南和西欧，覆盖面大了一整圈。

区域铺开的核心目的，就是让更多海外企业在本地就能调到 GPT-4 和 GPT-35-Turbo，降低延迟，顺便解决数据合规的问题。

微软披露了一组挺惊人的数据：Azure OpenAI 服务的客户量已经突破 11000 家，比上一次公布时翻了将近两倍。

在这个季度里，平均每天都有大约 100 家新企业客户接入。奔驰在用车载系统做对话升级，毕马威拿它写代码和做自动化，自动驾驶公司 Wayve 则在用它的底层算力训练基座模型。

为什么重要

对企业和开发者来说，算力荒终于看到了一点缓解的曙光。

之前很多团队排队等不到 H100，或者只能跨洋调用美区接口忍受高延迟。现在无论是想包下整台 H100 虚机训私有模型，还是就近在本地调用合规的 GPT-4，门槛和网络代价都降下来了。

对云服务市场来说，微软这套组合拳打得很准。大模型争霸拼到今天，单卖底层算力或者单卖模型 API 都不够稳，微软把英伟达顶级硬件和 OpenAI 顶尖模型绑死在 Azure 底座上，直接切断了对手不少截流的机会。

我们认为，微软最聪明的做法在于把全球数据合规的痛点变成了自己的护城河。大企业用 AI 最怕数据出境，把 GPT-4 搬进日本、英国、加拿大本地节点，几乎是逼着犹豫不决的传统政企客户立刻掏钱签单。

不过隐患也明摆着：数十万张 H100 的交付承诺和电网负荷，极其考验微软的供应链调配。一旦英伟达产能打个喷嚏，或者本地数据中心配电跟不上，全球扩张的节奏随时可能被卡脖子。