Alvin Lang
3月18日，2025年20:51
NVIDIA介绍了Nemo策展人，这是一种GPU加速流管线，用于在DGX云上有效的视频处理，优化了AI模型开发并降低成本。
NVIDIA称，物理AI的出现显着增加了视频内容的产生，每天的一辆自动驾驶汽车每天生产超过1 TB的视频。为了有效地管理和利用这些庞大的数据，NVIDIA推出了Nemo Curator，这是NVIDIA DGX Cloud上可用的GPU加速流管线。
传统处理挑战
传统的批处理处理系统一直在指数级的数据增长方面挣扎，通常导致GPU未充分利用和成本增加。这些系统积累了大量的数据量来处理处理，这可能会导致AI模型开发中的效率低下和潜伏期问题。
GPU加速流解决方案
为了应对这些挑战，NEMO策展人引入了一条灵活的流媒体管道，该管道利用GPU加速进行大规模视频策划。该高级管道结合了自动缩放和负载平衡技术，以优化各个阶段的吞吐量，最大化硬件利用率并降低总拥有成本（TCO）。
优化的吞吐量和资源利用率
流处理方法允许在阶段之间直接管道中间数据，从而降低延迟并提高效率。通过将CPU密集型任务与GPU密集型任务分开，该系统可以更好地与可用基础架构的实际能力保持一致，避免空闲资源并确保均衡吞吐量。
架构和实现
基于射线框架的Nemo策展人管道分为几个阶段，从视频解码到嵌入计算。每个阶段都使用射线演员池并并行处理数据，编排线程管理输入和输出队列以保持最佳吞吐量。该系统会动态调整演员池的大小，以适应不同的阶段速度，从而确保流量和效率一致。
绩效和未来前景
与传统的批处理处理相比，流媒体管道达到了1.8倍的速度，在大约195秒内处理一个小时的每个GPU视频。 Nemo策展人管道显示，基线的性能提高了89倍，能够在一天内在2,000 h100 gpus上处理约100万小时的720p视频。 NVIDIA继续与早期访问合作伙伴合作，进一步完善系统并扩大其功能。
有关更详细的见解，请访问NVIDIA博客。
图像来源：Shutterstock
（tagstotranslate）AI（T）加密（T）区块链（T）新闻
关键词：
