丁先生
2024年8月27日 19:27
NVIDIA 推出高性能以太网结构 Spectrum-X,以优化 AI 工作负载并提高数据中心效率。
为了满足日益增长的人工智能 (AI) 工作负载需求,NVIDIA 推出了 Spectrum-X,这是一种高性能以太网结构,旨在优化大规模 AI 操作。据 NVIDIA 技术博客称,Spectrum-X 旨在满足现代 AI 工作负载的严格要求,与传统以太网网络相比有显著改进。
从概念到实际表现
随着人工智能应用对数据吞吐量和延迟要求的提高,传统以太网网络难以跟上步伐。NVIDIA 的 Spectrum-X 通过整合远程直接内存访问 (RDMA)、基于遥测的拥塞控制、无损网络和动态负载平衡等先进技术,重新构想了以太网。
传统以太网虽然可靠,但本质上存在损耗,在扩展分布式计算工作负载方面效率较低。Spectrum-X 通过将 NVIDIA 的以太网产品转变为能够满足加速计算严格要求的高性能计算结构来解决这些限制。
Spectrum-X 的主要特点
- 基于遥测的拥塞控制: 高频遥测探头与流量计量相结合,确保工作负载受到保护并且性能得到隔离,从而允许不同的 AI 工作负载同时运行而不会降低性能。
- 无损网络: 配置网络以实现无损条件,最大限度地减少尾部延迟并确保不丢失任何数据包。
- 动态负载平衡: 细粒度自适应路由可最大限度提高结构利用率并确保最高有效带宽,避免静态路由的缺陷并提高整体网络性能。
Spectrum-X 首次亮相 Israel-1 超级计算机
NVIDIA Spectrum-X 于 2023 年 6 月首次亮相于 Israel-1 超级计算机,通过将网络性能提高 1.6 倍展示了其功能。NVIDIA 团队对应用程序进行了严格的测试和基准测试,不断优化 Spectrum-X,以实现任何规模的最低运行时间。
生态系统采用和客户成功
Israel-1 的性能提升引起了 OEM、解决方案提供商和大型云客户的极大兴趣。这促使 Spectrum-X 得到广泛采用,合作伙伴将其集成到他们的数据中心解决方案中。
早期客户已经接受了 Spectrum-X,因为它能够优化大规模 AI 工作负载并提高数据中心性能。值得注意的例子包括戴尔与 NVIDIA 合作的 AI Factory,它将戴尔的计算、存储、软件和服务与 NVIDIA 先进的 AI 基础设施相结合,以及 HPE 的 NVIDIA AI Computing,旨在加速生成式 AI 工业革命。
结论
NVIDIA 的 Spectrum-X 代表了以太网技术的重大进步,专为 AI 工作负载量身定制。随着 NVIDIA 不断创新,Spectrum-X 有望在 AI 工厂、生成式 AI 云和企业 AI 数据中心的开发中发挥关键作用,为性能和效率树立新标准。
有关 Spectrum-X 的更多信息,请下载《NVIDIA Spectrum-X 网络平台架构:第一个旨在加速 AI 工作负载的以太网网络》白皮书。
图片来源:Shutterstock
(标签翻译)人工智能(t)加密(t)区块链(t)新闻
关键词:AI,crypto,blockchain,news