The news is by your side.

有效的AI管道:NVIDIA的NEMO RETRIEVER提取在单个GPU上

4


劳伦斯·詹格(Lawrence Jengar)
6月18日,2025年19:16

NVIDIA的NEMO RETRIEVER提供了一种简化的解决方案,用于使用单个GPU进行多模式文档提取,从而提高了AI Pipelines的效率并降低了操作成本。




NVIDIA通过其NEMO RETRIEVER提取了AI管道效率的显着进步,仅使用一个GPU就可以进行全面的多模式文档处理。随着组织面临从各种数据源中提取有价值的见解的挑战,传统的只有文本提取方法已被证明不足。根据NVIDIA的说法,NEMO猎犬旨在通过有效处理复杂文件(例如PDF和演示文稿)来解决这些缺点。

多模式提取管道

NEMO猎犬利用微服务从各种文件类型中提取信息,形成可扩展的检索生成(RAG)解决方案。该体系结构是RAG的NVIDIA AI蓝图的一部分,旨在通过将静态文档转换为可行的见解来简化企业知识管理。管道结合了高级组件,例如对象检测和矢量嵌入,从而实现了有效的,上下文感知的检索。

实施管道

部署NEMO猎犬提取管道涉及直接设置,可在AWS G6E.xlarge机器上使用,带有单个L40S GPU。该管道包括用于视觉识别,OCR,嵌入模型和可观察性工具的服务。部署后,用户可以提交摄入作业以处理文件,提取,分裂和嵌入多模式数据中的结构化格式。

用例:Nvidia Blackwell GPU

说明性用例涉及处理有关NVIDIA Blackwell GPU的组织文件。该管道通过从多模式文档中提取相关数据来有效处理性能比较的请求。这种方法允许无需手动文件审查即可快速准确地检索。

结论

NEMO猎犬提取管道代表了AI驱动的文档理解中的飞跃,将未充分利用的文档转变为高价值资产。它不仅提高了数据的质量,而且还有助于创建“数据飞轮”,在此改进的数据质量会导致更好的AI模型和更有价值的数据生成。组织可以利用这项技术来解锁更深层次的见解,并为更明智的决策过程推动。

图像来源:Shutterstock


(tagstotranslate)AI(T)加密(T)区块链(T)新闻



关键词: