Together.ai 推出 Rerank API 和 Salesforce LlamaRank，以增强企业搜索

作为企业搜索和检索增强生成 (RAG) 系统的一个重大发展，Together.ai 宣布推出其新的无服务器 Together Rerank API。据 Together Ai 博客称，此版本还包括对 LlamaRank 的独家访问权，LlamaRank 是由 Salesforce AI Research 开发的尖端重新排名模型。

革命性企业搜索

新推出的 Together Rerank API 是一个无服务器端点，旨在与企业应用程序无缝集成。此 API 简化了开发人员的流程，只需最少的代码即可整合支持的重新排序模型。该 API 的主要功能包括：

• 对 Salesforce 的 LlamaRank 模型的旗舰支持
• 支持 JSON 和表格数据
• 每篇文档 8K 长上下文
• 低延迟，实现快速搜索查询
• 与 Cohere 的 Rerank API 兼容

独家访问 LlamaRank

LlamaRank 由 Salesforce AI Research 开发，与其他领先的重新排名模型（如 Cohere Rerank v3 和 Mistral-7B）相比，其性能更出色。该模型增强了文档排名功能，从而提高了 RAG 和传统搜索系统中信息检索的准确性和效率。LlamaRank 支持长度最多为 8,000 个标记的文档，并且对于 JSON、电子邮件、表格和代码等半结构化数据特别有效。

什么是重排模型？

重新排序器是一种专门的模型，它通过根据文档与给定查询的相关性重新评估和重新排序一组文档来提高搜索相关性。例如，在技术支持场景中，用户查询重置密码将导致重新排序器优先考虑最相关的文档，从而增强搜索结果。

重新排名如何改善搜索和 RAG

重新排序是现代搜索和 RAG 系统中的一个关键组件，充当重新评估最初检索到的文档的质量过滤器。此步骤可提高输入到语言模型中的信息质量，从而降低出现不准确或不相关结果的可能性。重新排序器在企业环境中尤其有价值，因为企业环境中需要精确且准确地检索各种格式的大量数据以进行决策。

Salesforce LlamaRank：更准确的企业重新排名模型

Salesforce 的 LlamaRank 模型是 Llama3-8B-Instruct 的微调版本，使用来自 Salesforce 内部数据分析师的合成数据和人工标记数据进行训练。该模型在对一般文档和代码进行排名方面表现出色，因此对各种企业应用程序非常有用。Salesforce 在 SQuAD、TriviaQA、Neural Code Search 和 TrailheadQA 等公共数据集上对 LlamaRank 进行了评估，结果显示其性能卓越。

一起重新排名 API

Together Rerank API 旨在为构建 RAG 应用程序提供无缝的开发人员体验。它允许开发人员轻松地将支持的重新排序模型集成到他们的企业应用程序中。该 API 接收查询和一组文档，返回每个文档的相关性分数和排序索引。它还可以过滤响应以仅显示最相关的文档。

如何开始

首先，开发人员可以使用 Together AI 创建 API 密钥，然后按照快速入门文档中的步骤尝试 Salesforce 的 LlamaRank 模型。对于生产规模部署，鼓励企业联系 Together.ai 的销售团队。

图片来源：Shutterstock