费利克斯·平克斯顿
2024年8月26日 17:26
NVIDIA 推出新的 CUDA 库来增强加速计算,为各种应用程序提供显著的速度和能源效率提升。
据NVIDIA博客报道,NVIDIA推出了一系列新的CUDA库,旨在扩展加速计算的功能,有望显著提高各种应用程序的速度和能效。
增强多种应用功能
新库面向一系列应用,包括大型语言模型 (LLM)、数据处理和物理 AI。主要亮点包括:
- NeMo 策展人:促进自定义数据集创建,现在具有图像管理功能。
- 库维斯:一个可以在几分钟内建立索引的向量搜索库,速度比传统方法快得多。
- 经:使用新的 Tile API 加速物理模拟以增强计算能力。
- 天线:增加更多无线网络模拟的地图格式。
- 西奥纳:引入了用于无线模拟实时推理的新工具链。
现实世界的影响
全球各地的公司越来越多地采用 NVIDIA 的加速计算解决方案,实现了显著的速度提升和节能效果。例如,与基于 CPU 的工作站相比,CPFD 用于回收设施的 Barracuda Virtual Reactor 软件在 CUDA GPU 加速虚拟机上的运行速度提高了 400 倍,能效提高了 140 倍。
一款流行的视频会议应用程序在将其实时字幕系统从 CPU 迁移到云端的 GPU 后,速度提高了 66 倍,能效提高了 25 倍。同样,一个电子商务平台通过切换到 NVIDIA 的加速云计算系统,降低了延迟,速度提高了 33 倍,能效提高了近 12 倍。
NVIDIA 在 CUDA GPU 上加速计算是可持续计算
NVIDIA 估计,如果将当前在 CPU 服务器上运行的所有 AI、HPC 和数据分析工作负载切换到 CUDA GPU 加速系统,数据中心每年可节省 40 太瓦时的能源,相当于 500 万美国家庭每年的能源消耗。
加速计算利用 CUDA GPU 的并行处理能力,以比 CPU 更快、更节能的方式完成任务。虽然添加 GPU 会增加峰值功率,但由于任务完成速度更快且随后进入低功耗状态,总体能耗会显著降低。
适合每项工作的工具
NVIDIA 提供了一套针对各种工作负载优化的多样化库。新更新扩展了 CUDA 平台,以支持更广泛的应用程序:
法学硕士申请
NeMo 策展人 和 Nemotron-4 340B 提供创建自定义数据集和生成高质量合成数据的高级功能。
数据处理应用程序
库维斯 和 极地 显著提升性能,实现更高效的大规模数据处理。
物理人工智能
经, 天线, 和 西奥纳 引入物理模拟和无线网络研究的新功能,增强这些平台的功能。
NVIDIA 的 CUDA 库对于加速特定工作负载至关重要,可提供满足各种计算需求的专用工具。NVIDIA 拥有超过 400 个库,继续在为现代计算挑战提供强大、高效的解决方案方面处于领先地位。
图片来源:Shutterstock
(标签翻译)人工智能(t)加密(t)区块链(t)新闻
关键词:AI,crypto,blockchain,news