劳伦斯·詹格(Lawrence Jengar)
9月2日,2025年17:30
NVIDIA宣布用于Jetson Thor的CUDA工具包13.0,具有统一的ARM生态系统,增强的虚拟内存和改进的GPU共享,简化了边缘计算的开发。
NVIDIA将通过释放CUDA Toolkit 13.0在芯片(SOC)上发布CUDA TOOLKIT 13.0的嵌入式和边缘计算世界。根据NVIDIA的说法,此更新由NVIDIA Blackwell GPU架构提供支持,有望提高速度,效率和多功能性。
ARM平台的统一CUDA工具包
CUDA 13.0的最重大变化是ARM平台的CUDA工具包的统一,这消除了对服务器级和嵌入式系统单独的工具包的需求。这种简化使开发人员可以构建应用程序一次,并在没有代码更改的情况下在各种平台上部署它们,从而显着提高了生产力。
Jetson Thor现在将以完整的连贯性支持统一的虚拟内存(UVM),这允许设备通过主机的页面表访问可访问的主机存储器。此更新将Jetson平台与UVM功能方面的离散GPU系统保持一致。
增强的GPU共享功能
CUDA 13.0引入了一些GPU共享功能,以提高利用率和性能。多进程服务(MPS)功能使多个进程可以同时共享GPU,增强吞吐量和可扩展性,而无需更改应用程序代码。这对于小型或爆发工作负载的应用尤其有益。
此外,新的绿色上下文功能允许通过预先分配资源来确定性GPU调度,从而确保可预测的延迟敏感工作负载的执行。这对于像Robotics这样的应用程序至关重要,在该应用程序中,实时性能至关重要。
开发人员工具增强功能
某些开发人员工具,包括 nvidia-smi
Jetson Thor现在支持实用程序和NVIDIA管理库(NVML)。这些工具可以更好地了解GPU使用和对资源的控制,尽管预计将来的更新中时钟和电源查询等某些功能。
未来的发展
展望未来,NVIDIA计划介绍多构想GPU(MIG)功能,该功能将使大型GPU分配为较小的孤立设备。这将使与临界的混合工作负载能够并行运行,改善确定性和断层隔离。
开发人员可以在JetPack 7.0版本中提供的CUDA 13.0工具包中探索这些新功能,而NVIDIA鼓励通过其开发人员论坛进行参与,因为它们继续增强了Jetson平台的功能。
图像来源:Shutterstock
(tagstotranslate)AI(T)加密(T)区块链(T)新闻
关键词: