丽贝卡·莫恩（Rebeca Moen）
2025年5月13日07:00
NVIDIA的NEMO框架引入了用于无缝集成和增强拥抱面模型性能的汽车模型，从而可以快速实验和优化的训练。
NVIDIA通过引入汽车功能，推出了其NEMO框架的显着增强，旨在简化拥抱面部模型的集成和微调。根据NVIDIA的官方博客的说法，这一开发旨在促进第0天对最先进的模型的支持，从而使组织能够有效利用生成AI的最新进步。
汽车模型：模型集成的新时代
汽车模型功能是NEMO框架中的高级接口，使用户可以轻松地通过拥抱面孔进行预训练的模型。汽车最初涵盖文本生成和视觉语言模型，计划扩展为视频生成和其他类别。此功能简化了模型并行性的过程，通过JIT汇编增强了Pytorch性能，并确保了由Nvidia Megatron核心提供动力的最佳训练和后训练后的无缝过渡。
汽车模型的引入解决了将新的模型体系结构集成到NEMO框架中的挑战，它提供了一条直接的途径来利用拥抱Face的庞大模型存储库。该功能通过完全损坏的数据并行性2（FSDP2）和分布式数据并行（DDP）支持模型并行性，其中未来的扩展包括张量并行性（TP）和上下文并行性（CP）。
有效的培训和可伸缩性
Automodel接口可以在开箱即用的支持下支持模型并行性和增强的Pytorch性能，从而使组织能够有效地扩展其AI解决方案。该集成促进了轻松出口到VLLM进行优化的推理，并计划很快引入NVIDIA Tensorrt-LLM出口。这样可以确保组织可以保持高吞吐量和可扩展性，这对于竞争性AI景观至关重要。
Automodel还为高性能的Megatron-Core路径提供了无缝的“选择加入”，从而使用户可以通过最小的代码修改切换到优化的培训。一致的API确保过渡到超大核核心支持的路径以最大值吞吐量。
扩大了Nemo的功能
汽车的引入是NVIDIA增强NEMO框架能力的更广泛战略的一部分。该功能不仅支持 AutoModelForCausalLM 文本生成的类，但还允许开发人员通过创建子类扩展对其他任务的支持，从而扩大了AI应用程序的范围。
随着NEMO框架25.02的发布，鼓励开发人员通过NVIDIA的GitHub存储库中可用的教程笔记本探索汽车。还邀请社区提供反馈，并为汽车功能的持续开发做出贡献，以确保其持续发展以满足尖端AI研究和开发的需求。
随着AI景观迅速发展，NVIDIA的NEMO框架具有其汽车功能，将自己定位为寻求最大化生成AI模型潜力的组织的关键工具。通过促进无缝集成和优化的性能，NEMO框架使团队保持了AI创新的最前沿。
图像来源：Shutterstock
（tagstotranslate）AI（T）加密（T）区块链（T）新闻
关键词：