微软推出ND H100 v5虚拟机,助力企业开发人工智能技术

业界动态12个月前更新 资源领域
67 0 0

【ITBEAR科技资讯】3月14日消息,微软最近宣布了其加强和英伟达的合作,推出专门针对人工智能开发的全新的ND H100
v5虚拟机。这款虚拟机主要面向需要整合或开发人工智能的企业,其性能得到了极大提升。

虚拟机配备了8块英伟达H100 Tensor Core GPU,通过下一代NVSwitch和NVlink 4.0互连。通过NVSwitch和NVlink
4.0,每台虚拟机内的8个本地GPU之间的对分带宽为3.6TB/s。同时,采用英特尔第4代Xeon Scalable处理器,使用PCIe
Gen5连接GPU,每个GPU带宽为64GB/s,16通道4800MHz DDR5 DIMM。

微软推出ND H100 v5虚拟机,助力企业开发人工智能技术

在非阻塞的胖树架构网络下,每块GPU的NVIDIA Quantum-2 CX7
InfiniBand性能可以达到400Gb/s,每台虚拟机可以达到3.2Tb/s。这样的性能提升,将为企业和开发人员提供更强大的计算资源,加速人工智能的开发和部署。

据ITBEAR科技资讯了解,微软先前在Azure
OpenAI服务中宣布了ChatGPT相关服务。而这款全新的虚拟机将成为该服务的补充,它允许第三方通过Azure访问聊天机器人技术。这意味着,企业和开发人员可以利用更强大的计算资源来打造更加强大的聊天机器人,提供更加智能的服务。

微软的这次加强与英伟达的合作,推出全新的ND H100
v5虚拟机,为企业和开发人员提供了更强大的计算资源。相信这将为人工智能的发展和普及带来更大的推动和助力。

© 版权声明

相关文章

暂无评论

您必须登录才能参与评论!
立即登录
暂无评论...