基于LangChain,使用自有知识库创建GPT智能体

2024-04-15 02:28

本文主要是介绍基于LangChain,使用自有知识库创建GPT智能体,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

大家好,Langchain智能体在定制对话界面方面具有实际应用潜力,能够灵活适应并满足用户的多样化需求。借助Langchain,开发者可以整合多种格式数据,如URL链接或PDF文件,来构建一个专属知识库。这个知识库不仅能够为智能体提供丰富的信息资源以回答问题,还能结合搜索引擎或Zapier等工具,实现更多自动化功能。

本文详细介绍如何搭建Langchain智能体,使其能够依据PDF文档内容提供答案,并通过Zapier平台自动化发送邮件。通过这些流程,大家能够深入了解并实践Langchain智能体的强大功能。

1.环境搭建

首先,需要安装Langchain和其他依赖项:

!pip install langchain
!pip install pypdf
!pip install pinecone-client
!pip install openai
!pip install tiktoken

还需要为OpenAI和Pinecone设置API密钥:

import os
import pineconeos.environ["OPENAI_API_KEY"] = "YOUR_OPENAI_API_KEY"# 初始化Pinecone
pinecone.init(api_key="YOUR_PINECONE_API_KEY",  # 在app.pinecone.io查找environment="YOUR_ENVIRONMENT_NAME"  # 控制台中API密钥旁边
)

2.创建索引

Langchain智能体能够利用定制化的知识库来检索和获取信息。为了让大型语言模型能够有效地理解并处理这些信息,需要确保其能够掌握相关的上下文。通常,可以通过将完整的上下文信息连同用户的查询一起输入模型来实现。然而,当处理大量数据时,这种方法就会变得不切实际。

为了解决这个问题,采用索引技术来优化知识库的存储和检索。通过索引,数据被划分为多个小片段,每个片段都通过向量形式编码了其语义信息。当用户发起查询,系统将根据查询内容搜索对应的向量,快速定位到包含所需信息的数据片段。这样,系统仅向语言模型提供与用户查询直接相关的数据片段,而不是将全部数据集一次性输入,从而大幅提高了检索效率,并确保结果的精确性。

2.1 从PDF加载数据

现在,为定制化知识库加载文档。使用PDF文件作为示例,但Langchain也支持其他格式。

from langchain.document_loaders import PyPDFLoaderloader = PyPDFLoader("PATH_TO_YOUR_FILE")
pages = loader.load_and_split()

2.2 将PDF文本分割成小块

分割文本的方法有很多。这里使用的是适用于各类文本的分割器。

from langchain.text_splitter import RecursiveCharacterTextSplittertext_splitter = RecursiveCharacterTextSplitter(chunk_size=1000,chunk_overlap=200,length_function=len,
)docs = text_splitter.split_documents(pages)

创建嵌入:

from langchain.embeddings.openai import OpenAIEmbeddingsembeddings = OpenAIEmbeddings()

2.3 创建向量存储

向量存储技术主要用于存储文档及其对应的嵌入向量,以便能够通过这些嵌入向量快速定位和检索到相关文档。

创建向量存储的方法有很多,本文使用Pinecone。要开始使用Pinecone,需要先在其平台上创建索引。然后在“index_name”中输入索引名称。

from langchain.vectorstores import Pineconeindex_name = "index_name"# 创建新索引
docsearch = Pinecone.from_documents(docs, embeddings, index_name=index_name)# 如果您已经有了索引,可以像这样进行加载
# docsearch = Pinecone.from_existing_index(index_name, embeddings)

如果无法创建Pinecone账户,可以尝试使用CromaDB。以下代码使用Chroma创建了一个临时的内存向量存储,如果无法访问Pinecone,请使用它作为替代。

from langchain.vectorstores import Chroma
docsearch = Chroma.from_documents(docs, embeddings)

3.问题回答链

问题回答链能够确保系统根据上下文提供恰当的答案。

from langchain.chains import RetrievalQA
from langchain import OpenAI# 定义LLM
llm = OpenAI(temperature=0.2)qa = RetrievalQA.from_chain_type(llm=llm, chain_type="stuff", retriever=docsearch.as_retriever(search_kwargs={"k": 2}))

可以通过传递一个问题来测试QA链:

query = "What is DesignOps support model?"
qa.run(query)

这段代码的输出会基于PDF文件中相关上下文块的问题答案。

4.Zapier集成

可以使用Langchain Zapier工具包将智能体与Zapier集成。首先,需要在https://nla.zapier.com/获取Zapier API密钥,并在Zapier中添加将要使用的操作。

os.environ["ZAPIER_NLA_API_KEY"] = os.environ.get("ZAPIER_NLA_API_KEY", "YOUR_ZAPIER_API_KEY")接下来,初始化Zapier工具包from langchain.agents.agent_toolkits import ZapierToolkit
from langchain.utilities.zapier import ZapierNLAWrapperzapier = ZapierNLAWrapper()
toolkit = ZapierToolkit.from_zapier_nla_wrapper(zapier)

5.构建Langchain智能体

from langchain.agents import AgentType
from langchain.agents import initialize_agent, Tool
from langchain.memory import ConversationBufferMemory
from langchain.chat_models import ChatOpenAI# 为智能体定义工具
tools = [Tool(name="Demo",func=qa.run,description="use this as the primary source of context information when you are asked the question. Always search for the answers using this tool first, don't make up answers yourself"),
] + toolkit.get_tools()# 设置对话记忆
memory = ConversationBufferMemory(memory_key="chat_history")# 设置智能体
agent_chain = initialize_agent(tools, llm, agent=AgentType.CONVERSATIONAL_REACT_DESCRIPTION, verbose=True, memory=memory)

现在已经设置好了智能体,可以通过提问进行测试。智能体将使用问题回答链来找到相关上下文并生成答案,执行用户请求中指定的其他任务。

agent_chain.run(input="What Adrienne Allnutt have said about DesignOps?")
agent_chain.run(input="Email the answer to email@gmail.com and mention that this email was sent by AI")

为了让智能体正确执行用户的指令,构建准确的提示十分重要。在开发面向用户的应用时,我们应该深入研究如何设计有效的提示模板,以简化用户与智能体的交互过程。同时,还需要考虑聊天界面是否是最合适的交互方式,或是否有其他界面设计能提供更优的用户体验。

这篇关于基于LangChain,使用自有知识库创建GPT智能体的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/904666

相关文章

Java中流式并行操作parallelStream的原理和使用方法

《Java中流式并行操作parallelStream的原理和使用方法》本文详细介绍了Java中的并行流(parallelStream)的原理、正确使用方法以及在实际业务中的应用案例,并指出在使用并行流... 目录Java中流式并行操作parallelStream0. 问题的产生1. 什么是parallelS

Linux join命令的使用及说明

《Linuxjoin命令的使用及说明》`join`命令用于在Linux中按字段将两个文件进行连接,类似于SQL的JOIN,它需要两个文件按用于匹配的字段排序,并且第一个文件的换行符必须是LF,`jo... 目录一. 基本语法二. 数据准备三. 指定文件的连接key四.-a输出指定文件的所有行五.-o指定输出

Linux jq命令的使用解读

《Linuxjq命令的使用解读》jq是一个强大的命令行工具,用于处理JSON数据,它可以用来查看、过滤、修改、格式化JSON数据,通过使用各种选项和过滤器,可以实现复杂的JSON处理任务... 目录一. 简介二. 选项2.1.2.2-c2.3-r2.4-R三. 字段提取3.1 普通字段3.2 数组字段四.

Linux kill正在执行的后台任务 kill进程组使用详解

《Linuxkill正在执行的后台任务kill进程组使用详解》文章介绍了两个脚本的功能和区别,以及执行这些脚本时遇到的进程管理问题,通过查看进程树、使用`kill`命令和`lsof`命令,分析了子... 目录零. 用到的命令一. 待执行的脚本二. 执行含子进程的脚本,并kill2.1 进程查看2.2 遇到的

详解SpringBoot+Ehcache使用示例

《详解SpringBoot+Ehcache使用示例》本文介绍了SpringBoot中配置Ehcache、自定义get/set方式,并实际使用缓存的过程,文中通过示例代码介绍的非常详细,对大家的学习或者... 目录摘要概念内存与磁盘持久化存储:配置灵活性:编码示例引入依赖:配置ehcache.XML文件:配置

Java 虚拟线程的创建与使用深度解析

《Java虚拟线程的创建与使用深度解析》虚拟线程是Java19中以预览特性形式引入,Java21起正式发布的轻量级线程,本文给大家介绍Java虚拟线程的创建与使用,感兴趣的朋友一起看看吧... 目录一、虚拟线程简介1.1 什么是虚拟线程?1.2 为什么需要虚拟线程?二、虚拟线程与平台线程对比代码对比示例:三

k8s按需创建PV和使用PVC详解

《k8s按需创建PV和使用PVC详解》Kubernetes中,PV和PVC用于管理持久存储,StorageClass实现动态PV分配,PVC声明存储需求并绑定PV,通过kubectl验证状态,注意回收... 目录1.按需创建 PV(使用 StorageClass)创建 StorageClass2.创建 PV

Redis 基本数据类型和使用详解

《Redis基本数据类型和使用详解》String是Redis最基本的数据类型,一个键对应一个值,它的功能十分强大,可以存储字符串、整数、浮点数等多种数据格式,本文给大家介绍Redis基本数据类型和... 目录一、Redis 入门介绍二、Redis 的五大基本数据类型2.1 String 类型2.2 Hash

Redis中Hash从使用过程到原理说明

《Redis中Hash从使用过程到原理说明》RedisHash结构用于存储字段-值对,适合对象数据,支持HSET、HGET等命令,采用ziplist或hashtable编码,通过渐进式rehash优化... 目录一、开篇:Hash就像超市的货架二、Hash的基本使用1. 常用命令示例2. Java操作示例三

Linux创建服务使用systemctl管理详解

《Linux创建服务使用systemctl管理详解》文章指导在Linux中创建systemd服务,设置文件权限为所有者读写、其他只读,重新加载配置,启动服务并检查状态,确保服务正常运行,关键步骤包括权... 目录创建服务 /usr/lib/systemd/system/设置服务文件权限:所有者读写js,其他