卡罗琳·毕晓普(Caroline Bishop)
5月29日,2025年11:24
Iguazio和Nvidia合作伙伴使用MLRUN和NVIDIA NIM提高AI部署功能,为企业提供可扩展有效的解决方案。
Iguazio之间的战略合作,现在是McKinsey&Company的AI ARM量子black的一部分,而Nvidia则标志着人工智能部署领域的显着进步。 NVIDIA表示,该合作伙伴关系旨在为组织提供必要的工具来创建生产级的AI解决方案,这些解决方案不仅是高性能和可扩展的,而且还可以敏捷,并且可以为现实世界的应用做好准备。
用NVIDIA NIM增强AI
NVIDIA的NIM微服务在加速在不同的云或数据中心环境上的生成AI方面起着至关重要的作用。这些微服务支持广泛的AI模型,包括NVIDIA AI基金会,社区和自定义模型的模型,可确保使用行业标准API进行无缝且可扩展的AI推理过程。 NIM框架旨在动态选择最佳推理引擎,具体取决于基础模型,GPU和系统,从而提高效率。
MLRUN:AI编排框架
由Iguazio开发的开源AI编排框架MLRUN自动化了整个AI管道,从而促进了NIM在生产环境中的部署。它涵盖了企业级应用程序所需的所有元素,包括批处理和实时数据管道,CI/CD自动化,数据谱系跟踪和模型监视。 MLRUN在支持自动化和无服务器体系结构的支持下,确保资源优化,使其成为AI部署的全面解决方案。
现实世界的申请和利益
在实际应用中,一个大型金融机构利用MLRUN开发多代理聊天机器人系统。该系统采用意图分类和实时监控,以提高操作效率并确保法规合规性。由NVIDIA NIM提供支持的聊天机器人体系结构展示了该框架在金融服务中支持复杂的AI驱动任务的能力,包括贷款查询,投资建议和一般客户服务。
MLRUN与NVIDIA NIM的集成为AI部署提供了强大的解决方案,提供了无服务器部署,有效的GPU利用率和全面的MLOPS集成之类的功能。这种协同作用使企业能够以优化的性能部署可扩展的AI应用程序,从而有效解决关键生产挑战。
结论
Iguazio和Nvidia通过MLRUN和NIM之间的合作代表了AI部署技术的重要一步。通过将优化的推断与强大的运营监督相结合,该伙伴关系使企业能够利用AI的全部潜力,从而在各个行业提供可扩展有效的解决方案。
图像来源:Shutterstock
(tagstotranslate)AI(T)加密(T)区块链(T)新闻
关键词: