复杂 RAG 系统的检索规划

本文主要是介绍复杂 RAG 系统的检索规划，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

文章介绍了REAPER（Reasoning based Retrieval Planning for Complex RAG Systems），这是一种基于大型语言模型（LLM）的规划器，用于在复杂的对话系统中生成检索计划。REAPER旨在解决在大规模异构数据存储中进行有效证据检索的问题，尤其是在需要多步骤检索的情况下。传统的RAG（Retrieval Augmented Generation）系统通常采用链式思考（Chain-of-Thought, CoT）的方式，将推理和检索步骤交织在一起处理复杂的查询任务，但这种方式会增加系统的响应时间。REAPER能够显著降低这种延迟，并且比基于分类的方法更容易扩展到新的使用场景。

该研究展示了REAPER在零售对话助理中的应用效果，这类助手需要从多个来源如产品评论、信息页面等检索信息来回答客户的问题。这些对话系统通常被训练以理解产品目录和开放数据源，以便于帮助用户发现产品。对于复杂的对话系统来说，它们需要从可能包含PB级别的异构文档的多个索引中检索证据。REAPER通过决定查询哪些索引以及何时让LLM直接利用其预训练知识来回答问题，从而优化了检索过程。此外，REAPER还考虑到了多步骤检索的情况，例如当用户询问关于他们特定订单的问题时，系统首先需要找到相关的订单信息，然后再获取与该订单相关的产品信息。
在这里插入图片描述

RAG框架是一种用于复杂对话系统的架构，它通过从大型异构数据存储中检索相关证据来辅助生成事实性的回答。这些数据存储通常被组织成多个索引或API，而不是单一的数据源。在给定查询的情况下，需要从一个或少量可能的检索来源中获取相关的证据。

l多跳问答和生成

多跳问答涉及在生成最终答案之前执行一系列推理和检索步骤。例如，在零售对话系统中，当客户询问关于他们过去订单的问题时，系统首先需要检索正确的订单记录，然后根据该订单上下文检索与问题相关的证据。这种链式思考（Chain-of-Thought, CoT）任务需要在推理和检索之间交织操作。

l密集检索方法

密集检索方法是一种用于开放域问答的技术，其中使用编码器模型将文档嵌入到稠密向量空间中。查询也被转换为稠密向量，然后使用近似最近邻搜索算法来找到最相关的文档。这种方法比传统的稀疏检索技术（如TF-IDF或BM25）在性能上有所提高。

l对话系统中的知识增强

对话系统中的知识增强是指利用外部知识源来改进系统的响应质量。这可以通过检索相关证据并将其整合到语言模型的生成过程中来实现。例如，一个购物助手可以被训练以使用产品目录和开放数据源，以便在回答用户查询时提供更准确的信息，帮助用户发现合适的产品。

1 PEAPER的设计

REAPER是一个旨在提升复杂查询处理效率的系统，特别是对于需要从多种异构数据源检索证据的对话系统。它通过一个小规模语言模型快速生成完整的检索计划，包括所需工具的选择、调用顺序及参数设置，从而减少了处理延迟。REAPER在工具序列选择上的准确率达到95%，在参数生成上的准确率为92%，并且易于扩展至新的数据源和应用场景。作为一个独立的规划器，REAPER专注于优化检索流程，进而帮助最终的回答生成模型提供更高质量的响应。