e-works数字化企业网  »  新闻  »  资讯  »  正文

微软正式上线最强生成式AI虚拟机、扩展Azure OpenAI服务

2023年8月8日     来源:IT之家         
关键字:微软  
       微软今年3月和英伟达合作,宣布推出Azure ND H100 v5 VM虚拟机预览版;经过数月的测试之后,微软今天正式推出该虚拟机,帮助企业更高效处理生成式AI任务。

  据此前报道,ND H100 v5 VM,是Azure迄今更强大和高度可伸缩的AI虚拟机系列。

  该虚拟机支持的按需配置可达8至上千个通过Quantum-2 InfiniBand网络互连的NVIDIA H100 GPU,使得AI模型的性能明显提高。相较上一代ND A100 v4 VM,本次推出的虚拟机包含以下创新技术:

  8块NVIDIA H100 Tensor Core GPU,通过下一代NV Switch和NV Link 4.0互连。

  在无阻塞胖树网络中,每个GPU搭载400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand和每VM 3.2Tb/s的性能。

  每个VM中的8块本地GPUs之间通过3.8Tb/s对分割带宽的NV Switch和NV Link 4.0互联。

  第四代英特尔至强可扩展处理器。

  PCIE第5代主机到GPU互连,每个GPU带宽为64Gb/s。

  16信道的4800 MHz DDR5内存。

  新的虚拟机使用NVIDIA的NVIDIA Tensor Core H100 GPU和NVIDIA Quantum-2 InfiniBand网络,当前仅限于美国东部和西部Azure企业访问。

  微软补充说,公司正在努力在明年为其虚拟机添加数十万块新的GPU。

  微软正式宣布该Azure虚拟机之外,还宣布扩展其Azure OpenAI服务,在加拿大东部、美国东部2(East United States 2)、日本东部和英国南部地区上线。

  微软表示Azure OpenAI服务客户已经超过11000名,本季度平均每天吸引100名新客户。

  这一显著的增长证明了我们的服务为渴望利用人工智能潜力满足其独特需求的企业带来的价值和可扩展性。

  微软还补充说,ChatGPT AI平台最强大的版本GPT-4也将适用于新的Azure OpenAI服务区域。
责任编辑:王力
e-works
官方微信
掌上
信息化
编辑推荐
文章推荐
博客推荐
视频推荐