Terrill Dicki
2025年5月14日07:53
NVIDIA的最新张力更新引入了RTX 50系列GPU的FP4图像生成，从而提高了AI模型性能和效率。探索生成AI技术的进步。
NVIDIA通过Blackwell Platform推出了新的GeForce RTX 50系列GPU，揭开了生成AI技术的重大飞跃。根据NVIDIA的说法，这些GPU配备了支持4位浮点计算（FP4）的第五代张量芯（FP4），这是加速复杂的生成AI模型的关键进步。
FP4量化和模型优化
FP4量化技术旨在提高图像生成模型的性能和质量，这些模型在速度，分辨率和复杂性方面越来越要求。 NVIDIA的Tensorrt软件生态系统支持FP4量化，提供了有助于PC和工作站上局部推理部署的库。这标志着传统的16位和8位计算模式的重大转变。
NVIDIA已使用高级训练后量化（PTQ）和量化感知训练（QAT）技术成功地将通量模型量化为FP4权重。这种方法减轻了初始图像质量降解，尤其是在细节上，并通过综合数据进行微调来改进评估指标。
出口和部署
为了有效的部署，将FP4模型导出到ONNX格式，从而可以精确地定义输入/输出张量和离线定量的重量张量。导出过程涉及标准的ONX DeQuantization节点和浓缩定制运算符的组合，以保持数值稳定性。
这些模型的部署进一步简化了Tensorrt处理量化操作员的能力，从而促进了端到端的推理旅程。与流行的图像生成工具Comfyui的集成使用户可以使用NVIDIA优化的张力发动机利用高质量的通量管道。
FP4的性能进步
与FP32和FP8相比，NVIDIA的Blackwell GPU中FP4的引入提供了几个优点，包括增加数学吞吐量和减少的内存足迹。 FP4数据类型还确保了优于INT4的推理精度，同时优化了性能，同时保持任务精度。
实际上，通量管道通过FP4推断显示出显着的性能增长，尤其是在变压器模型的完全连接的层中，与FP8相比达到了3.1倍。这种性能提升对于在消费者台式机上有效运行大型模型至关重要。
影响和未来的前景
FP4图像生成的进步突出了NVIDIA致力于推动AI技术界限的承诺。通过在消费级硬件上启用强大的生成AI功能，NVIDIA正在民主化对高级AI工具的访问，为在各个领域的创新应用铺平了道路。
随着FP4将FP4集成到Tensorrt 10.8版本中，NVIDIA继续领导AI硬件和软件创新，为开发人员和研究人员提供了强大的工具，以探索AI驱动的图像生成中的新边界。
图像来源：Shutterstock
（tagstotranslate）AI（T）加密（T）区块链（T）新闻
关键词：
