彼得张
2025年2月24日15:55
NVIDIA AI Enterprise现在支持H200 NVL GPU,增强了AI基础架构,并提高了性能和效率。该更新包括用于加速AI工作负载的新软件组件。
NVIDIA宣布对其NVIDIA AI Enterprise平台进行了重大更新,现在纳入了对NVIDIA H200 NVL GPU的支持。这一进步是该公司基础架构软件的最新版本的一部分,旨在增强企业级AI应用程序。根据NVIDIA的说法,H200 NVL是NVIDIA数据中心GPU系列的新成员,有望为代理和生成AI提供尖端的功能。
NVIDIA AI企业平台
NVIDIA AI企业平台旨在促进生产级AI解决方案的开发和部署。它由一套综合的软件组件组成,这些软件组件可以部署在各种硬件设置上,包括服务器,边缘系统和工作站。该平台分为两个主要类别:AI和数据科学软件目录和基础架构软件集合。
AI和数据科学软件目录具有NVIDIA NIM微服务和几个用于构建AI工作流程的框架。这些组件是用于无缝云本地部署的容器,可确保与各种云服务提供商的兼容性。
基础架构软件收集
基础架构软件集合提供了支持AI和数据科学工作负载的重要组件。这包括用于GPU,网络和虚拟化的驱动程序,以及Kubernetes运营商。此外,基本命令管理器必需品可用于有效的集群管理。
随着最新更新,基础架构软件集合现在支持H200 NVL GPU,这一举动预计将显着提高AI应用程序性能和能源效率。
H200 NVL GPU增强功能
H200 NVL GPU在超级计算2024会议上揭示,专为需要较低功率,气冷企业机架设计的数据中心而设计。它提供灵活的配置,以加速各种AI工作负载。 GPU具有1.5倍的内存增加,比其前任NVIDIA H100 NVL的带宽增加1.2倍,最大提高了1.7倍的推理性能。
NVIDIA AI Enterprise中H200 NVL的支持正在分阶段推出。基础架构集合的6.0版,现在可用,支持裸机应用程序和通过GPU通行证进行虚拟化。 6.1版,预计后来将通过VGPU增加对虚拟化的支持。
参考架构和可用性
NVIDIA还引入了参考体系结构,以简化AI系统的部署和配置。该体系结构为原始设备制造商(OEM)和合作伙伴提供了灵活的基础设施堆栈,可确保一致的软件组件和适应性的硬件配置。
对于使用H200 NVL购买服务器的企业,NVIDIA AI Enterprise可立即访问,并获得五年订阅。此外,NVIDIA提供了几种入门方式,包括免费访问NIM微服务进行测试和90天免费评估许可证。 NVIDIA AI Enterprise基础架构Collection 6.0可从NVIDIA NGC目录下载。
图像来源:Shutterstock
(tagstotranslate)AI(T)加密(T)区块链(T)新闻
关键词: