NVIDIA 增强 Jetson Orin Nano 开发套件，性能显着提升

NVIDIA 宣布对其 Jetson Orin Nano 开发套件进行重大升级，现已更名为 Jetson Orin Nano 超级开发套件。此更新旨在增强生成式 AI 应用程序的性能，为开发人员提供用于部署高级模型的强大工具。据 NVIDIA 称，新套件的性能提高了 1.7 倍，并且价格降低至 249 美元。

主要升级和功能

Jetson Orin Nano 超级开发套件比其前身拥有多项增强功能，包括稀疏 TOPS 从 40 增加到 67，内存带宽从 65 GB/s 增加到 102 GB/s。 CPU 时钟速度也从 1.5 GHz 提升至 1.7 GHz。这些改进是通过新的电源模式实现的，该模式提高了 GPU、CPU 和内存的性能。

开发人员可以通过简单的软件更新将现有的 Jetson Orin Nano 开发人员套件升级到新的超级版本。此次升级使该套件能够处理各种大型语言模型 (LLM)、视觉语言模型 (VLM) 和视觉转换器 (ViT)，包括那些具有多达 80 亿个参数的模型。

增强的人工智能模型性能

Jetson Orin Nano 超级开发套件支持一系列机器学习框架，例如 HuggingFace Transformers 和 NVIDIA TensorRT-LLM，使其成为跨云、边缘和 PC 环境部署可扩展解决方案的理想选择。该套件的新功能使其能够运行基于 Transformer 的新兴模型，将生成式 AI 性能提高高达 70%。

基准测试表明，流行的 LLM 和 VLM 的性能显着提升，Llama 3.1 8B 和 Qwen2.5 7B 等模型分别显示出 1.37 倍和 1.53 倍的改进。 ViT 也受益于升级，clip-vit-base-patch32 等模型实现了 1.60 倍的性能提升。

应用程序和用例

Jetson Orin Nano 超级开发套件的增强功能使其非常适合从机器人到多模式代理的各种应用。 NVIDIA 的 Jetson AI 实验室为开发人员提供了一个探索这些可能性的平台，为生成式 AI 项目提供教程和预构建容器。

NVIDIA 与 Hugging Face 合作，加速了 LeRobot 平台上的机器人研究，该平台在 Jetson Orin Nano 超级开发套件上运行。开发人员还可以使用该套件，利用 Open WebUI 等开源接口创建生成式 AI 聊天机器人。

前景

除了Jetson Orin Nano系列之外，NVIDIA还在增强其Jetson Orin NX系列的性能。这两个系列现在都提供了增强的计算能力，这对于在边缘设备上运行生成式人工智能模型至关重要。 NVIDIA 将 Jetson Orin 的生命周期延长至 2032 年，确保为这些强大的平台提供长期支持。

凭借这些进步，NVIDIA 继续为生成式 AI 和边缘计算的创新铺平道路，为开发人员提供应对现实世界挑战所需的工具。

图片来源：Shutterstock