记录些RAG-Fusion、Agent、NL2SQL的问题

2024-04-30 10:04

本文主要是介绍记录些RAG-Fusion、Agent、NL2SQL的问题,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

RAG-Fusion 

RAG-Fusion 的实现原理

  1. Query Duplication with a Twist:用 LLM 根据用户的 Query 生成几个相关的但不同的 Queries。
  2. Vector Search Unleashed:对原 Query 和生成的 Queries 都进行向量(或者其他方式的)搜索。
  3. Intelligent Reranking:使用 Reciprocal Rank Fusion 对搜索结果进行重新排序,挑选前 N 个。
  4. Eloquent Finale:把挑选的结果和问题一起,发给 LLM 让他生成最终的结果。

代码实现:GitHub - Raudaschl/rag-fusion 

关键就是两步:生成多个 Queries,以及整合排序

Reciprocal Rank Fusion (RRF)

使用不同的 query 去检索知识(doc),然后用 RRF 把搜索结果统一起来。

RRF 算法很简单,就是把 doc 在不同的排序中的排名汇总起来。

RRF论文地址:https://plg.uwaterloo.ca/~gvcormac/cormacksigir09-rrf.pdf

RAG-Fusion 的优缺点

优点:能更全面理解用户的意图,能获得更相关的知识。

缺点:Prompt的长度,可能让 LLM 迷失,另一方面则是要适应 LLM 上下文窗口的长度。

LangChain 实现

rag-fusion | 🦜️🔗 LangChain

LlamaIndex 实现

Rag fusion query pipeline - LlamaIndex

四种 Agent 设计模式

  1. 自我反思(Reflection):可以自我修正;
  2. 使用工具(Tool Use):链接其他系统去做一些事情,比如把电脑里面的未归档文件做好归档;
  3. 规划(Planning):类似于思维链,分解复杂任务,找到路径;
  4. 协作(Multiagent Collaboration):不同类型的助理(agent),可以通过协作组成一个团队。

NL2SQL的准确性问题和框架

NL2SQL的准确性问题 

这篇关于记录些RAG-Fusion、Agent、NL2SQL的问题的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/948566

相关文章

Vue3绑定props默认值问题

《Vue3绑定props默认值问题》使用Vue3的defineProps配合TypeScript的interface定义props类型,并通过withDefaults设置默认值,使组件能安全访问传入的... 目录前言步骤步骤1:使用 defineProps 定义 Props步骤2:设置默认值总结前言使用T

Web服务器-Nginx-高并发问题

《Web服务器-Nginx-高并发问题》Nginx通过事件驱动、I/O多路复用和异步非阻塞技术高效处理高并发,结合动静分离和限流策略,提升性能与稳定性... 目录前言一、架构1. 原生多进程架构2. 事件驱动模型3. IO多路复用4. 异步非阻塞 I/O5. Nginx高并发配置实战二、动静分离1. 职责2

解决升级JDK报错:module java.base does not“opens java.lang.reflect“to unnamed module问题

《解决升级JDK报错:modulejava.basedoesnot“opensjava.lang.reflect“tounnamedmodule问题》SpringBoot启动错误源于Jav... 目录问题描述原因分析解决方案总结问题描述启动sprintboot时报以下错误原因分析编程异js常是由Ja

MySQL 表空却 ibd 文件过大的问题及解决方法

《MySQL表空却ibd文件过大的问题及解决方法》本文给大家介绍MySQL表空却ibd文件过大的问题及解决方法,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考... 目录一、问题背景:表空却 “吃满” 磁盘的怪事二、问题复现:一步步编程还原异常场景1. 准备测试源表与数据

解决Nginx启动报错Job for nginx.service failed because the control process exited with error code问题

《解决Nginx启动报错Jobfornginx.servicefailedbecausethecontrolprocessexitedwitherrorcode问题》Nginx启... 目录一、报错如下二、解决原因三、解决方式总结一、报错如下Job for nginx.service failed bec

SysMain服务可以关吗? 解决SysMain服务导致的高CPU使用率问题

《SysMain服务可以关吗?解决SysMain服务导致的高CPU使用率问题》SysMain服务是超级预读取,该服务会记录您打开应用程序的模式,并预先将它们加载到内存中以节省时间,但它可能占用大量... 在使用电脑的过程中,CPU使用率居高不下是许多用户都遇到过的问题,其中名为SysMain的服务往往是罪魁

MySQ中出现幻读问题的解决过程

《MySQ中出现幻读问题的解决过程》文章解析MySQLInnoDB通过MVCC与间隙锁机制在可重复读隔离级别下解决幻读,确保事务一致性,同时指出性能影响及乐观锁等替代方案,帮助开发者优化数据库应用... 目录一、幻读的准确定义与核心特征幻读 vs 不可重复读二、mysql隔离级别深度解析各隔离级别的实现差异

C++ vector越界问题的完整解决方案

《C++vector越界问题的完整解决方案》在C++开发中,std::vector作为最常用的动态数组容器,其便捷性与性能优势使其成为处理可变长度数据的首选,然而,数组越界访问始终是威胁程序稳定性的... 目录引言一、vector越界的底层原理与危害1.1 越界访问的本质原因1.2 越界访问的实际危害二、基

Python多线程应用中的卡死问题优化方案指南

《Python多线程应用中的卡死问题优化方案指南》在利用Python语言开发某查询软件时,遇到了点击搜索按钮后软件卡死的问题,本文将简单分析一下出现的原因以及对应的优化方案,希望对大家有所帮助... 目录问题描述优化方案1. 网络请求优化2. 多线程架构优化3. 全局异常处理4. 配置管理优化优化效果1.

Linux部署中的文件大小写问题的解决方案

《Linux部署中的文件大小写问题的解决方案》在本地开发环境(Windows/macOS)一切正常,但部署到Linux服务器后出现模块加载错误,核心原因是Linux文件系统严格区分大小写,所以本文给大... 目录问题背景解决方案配置要求问题背景在本地开发环境(Windows/MACOS)一切正常,但部署到