NVIDIA 为增强型 AI 解决方案开发基于 RAG 的 LLM 工作流程

NVIDIA 正在为问答型大语言模型 (LLM) 开发基于检索增强生成 (RAG) 的工作流程，从而引领 AI 技术的进步。 NVIDIA 表示，这一举措旨在增强系统架构并提高系统功能与用户期望之间的一致性。

基于 RAG 的工作流程彻底改变了人工智能

基于 RAG 的解决方案的快速发展正在改变人工智能与用户交互的方式，特别是在执行超出传统范围的任务时，例如文档翻译和代码编写。 NVIDIA 的方法可以高效执行这些任务，同时最大限度地减少延迟和令牌使用。

为了满足用户对网络搜索和摘要功能的需求，NVIDIA 集成了 Perplexity 的搜索 API，增强了其应用程序的多功能性。该公司共享了这些解决方案的基本架构，展示了能够处理各种问题的聊天应用程序。

利用 NVIDIA NIM 微服务

NVIDIA 的项目利用 NIM 微服务高效部署多个模型，包括 llama-3.1-70b-instruct 模型的部署。配备 NVIDIA A100 的节点可促进此部署，即使没有专门的机器学习工程师，也能确保最小延迟和高可用性。

通过使用 NVIDIA 的 API，开发人员可以轻松地将这些服务集成到他们的项目中，如 NVIDIA 博客中详细介绍的那样。

LlamaIndex 和 Chainlit 的创新使用

NVIDIA 的开发还强调了 LlamaIndex 工作流事件的使用，它提供了一种事件驱动、基于步骤的方法来管理应用程序的执行流。这种集成简化了扩展应用程序的过程，同时保留了矢量存储和检索器等基本功能。

Chainlit 是该系统的另一个组成部分，它提供了一个用户友好的界面，具有进度指示器和步骤摘要等功能，增强了用户体验。它对企业身份验证和数据管理的支持进一步巩固了其在 NVIDIA 工作流程架构中的作用。

项目部署和增强

有兴趣部署类似项目的开发人员可以访问 GitHub 上的 NVIDIA 资源，并按照详细说明设置环境和依赖项。该架构支持多模式摄取和用户聊天历史记录，并有可能进一步增强 RAG 重新排名和错误处理等功能。

创新机会

NVIDIA 通过 NVIDIA 和 LlamaIndex 开发者大赛鼓励创新，邀请开发者使用这些技术创建人工智能驱动的解决方案。参与者有机会赢得激动人心的奖品，包括 NVIDIA GPU 和开发积分。

对于那些希望深入研究这些进步的人，NVIDIA 提供了大量文档和示例，从而培育了 AI 领域的创新和协作社区。

图片来源：Shutterstock