微软发布最强生成式 AI 虚拟机 扩大 Azure OpenAI 服务范围

【太平洋科技资讯】早前，微软与英伟达宣达成合作，发布了Azure ND H100 v5 VM虚拟机预览版。经过数月的测试后，微软在今日正式推出了这款虚拟机，并宣布扩展了其Azure OpenAI服务。

ND H100 v5 VM是Azure迄今为止最强大和高度可伸缩的AI虚拟机系列。该虚拟机支持的按需配置可达8至上千个通过Quantum-2 InfiniBand网络互连的NVIDIA H100 GPU，从而显著提高了AI模型的性能。相较于上一代的ND A100 v4 VM，这款虚拟机包含了一些创新技术。

首先，它搭载了8块NVIDIA H100 Tensor Core GPU，通过下一代NV Switch和NV Link 4.0进行互连。其次，在无阻塞胖树网络中，每个GPU搭载了400 Gb/s的NVIDIA Quantum-2 CX7 InfiniBand，每个虚拟机的性能达到了3.2Tb/s。此外，每个虚拟机中的8块本地GPU之间通过3.8Tb/s的对分割带宽的NV Switch和NV Link 4.0进行互联。此外，该虚拟机还采用了第四代英特尔至强可扩展处理器，以及PCIE第5代主机到GPU的互连，每个GPU的带宽为64Gb/s。最后，它还搭载了16信道的4800 MHz DDR5内存。

这款新的虚拟机使用了NVIDIA的NVIDIA Tensor Core H100 GPU和NVIDIA Quantum-2 InfiniBand网络，目前仅限于美国东部和西部Azure企业访问。微软表示，他们正在努力在明年为其虚拟机添加数十万块新的GPU。

除了推出这款Azure虚拟机，微软还宣布扩展其Azure OpenAI服务，在加拿大东部、美国东部2、日本东部和英国南部地区上线，ChatGPT AI 平台最强大的版本 GPT-4 也将适用于新的 Azure OpenAI 服务区域。

微软表示，Azure OpenAI服务的客户已经超过11000名，本季度平均每天吸引100名新客户。这一显著的增长证明了他们的服务为渴望利用人工智能潜力满足其独特需求的企业带来了价值和可扩展性。