NVIDIA AI Enterprise 增强 AI 代理的安全性和部署

据 NVIDIA 官方博客称，NVIDIA AI Enterprise 发布了最新版本，专注于增强 AI 代理的安全性和部署。这一新的迭代旨在通过集成先进的人工智能功能来提高组织效率和创新。

简化的人工智能管道管理

其中一项重大更新包括引入 NVIDIA NIM Operator，它简化了 Kubernetes 上 AI 管道的部署和管理。该工具通过智能模型预缓存、减少初始推理延迟和实现更快的自动扩展等功能来自动部署并优化性能。用户现在可以根据各种指标进行扩展，包括 CPU、GPU 和 NIM 特定标准。

增强的安全性和 API 稳定性

NVIDIA AI Enterprise 每月为寻求最新进展的开发人员提供功能分支版本。然而，为了满足稳定性需求，NVIDIA 还提供了生产分支，以确保 API 一致性和定期安全更新，这对于在稳定环境中部署 AI 至关重要。这些分支每半年发布一次，维护期为九个月，持续监控漏洞并每月发布安全补丁。

此次更新包括多个新的 NIM 微服务，例如 Meta 的 Llama 3.1 模型和 Mistral AI 模型，增强了可用于构建安全可靠的 AI 应用程序的工具套件。

人工智能在医疗保健中的应用

对于需要长期软件支持的行业（例如医疗保健），NVIDIA AI Enterprise 包括具有稳定 API 的长期支持分支 (LTSB)，有效期长达三年。最新版本增加了 Holoscan，这是一个人工智能传感器处理平台，对于开发具有扩展支持能力的人工智能医疗设备至关重要。

云集成与部署

NVIDIA AI Enterprise 支持在本地和云服务上部署。值得注意的是，谷歌云已将 NVIDIA NIM 集成到其 Kubernetes Engine 中，允许企业客户直接从谷歌云市场部署优化模型，简化了用户的流程。

可用性

NVIDIA AI Enterprise 的更新版本现已推出，大多数 AI 软件容器的生产分支版本可供下载。 NIM 微服务预计将在 11 月底加入生产分支，为许可证持有者提供增强的工具和企业支持。

图片来源：Shutterstock