不!GPTs无法取代知识库?0基础搭建本地私有知识库!本地fastgpt部署!16/45

本文主要是介绍不!GPTs无法取代知识库?0基础搭建本地私有知识库!本地fastgpt部署!16/45,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

hi~

是的!在这个系列我们做了大模型的微调,如何构建数据集、如何去做数据处理、做微调策略、算微调参数!新来的朋友去检索!

群里朋友聊,GPTs出来后,还有必要做私有知识库吗?

有!

雄哥在群里也说了,只要国家/某流行认可的第三方机构没能确保这些闭源LLM+知识库应用是100%安全的,它就有价值!

雄哥认为!

本地化+安全,是无法被取代的企业需求!

搭建知识库这个系列收到好多私信催更!那,还记得我们项目吗?

今天我们要动手搭建!

图片

医疗领域大模型项目启动会-MedLLM起航啦!

我们组队做了一个医疗项目,在实践中积累经验!

上周!开完医疗启动会,在几个群都做了调研!雄哥发现还是希望做知识库的朋友多啊!齐刷刷都是 ① !

另外两个系列在后面排队吧!

图片

今天跟着雄哥做【知识库搭建】板块,我们将在纯本地的环境搭建,涉及垂类大模型+嵌入模型的部署、docker部署,都搞掂后!使用知识库应用去搭建本地私有的知识库!

现在市场上已有大量的知识库/文档对话产品了,学会了这个部署,你基本了解到整个企业知识库部署的过程!内容如下:

day16:动手本地部署fastgpt知识库应用【本篇】

day17:动手本地部署ONE-API管理工具,与知识库打通!

day18:与知识库对话!部署Qwen-7B/14B,用API接入知识库!

dat19:与知识库对话!部署ChatGLM3-6B,用API接入知识库!

day20:本地部署M3e嵌入模型!接入知识库,完全体!大功告成!

day21:快速上手!3分钟动手搭建私有的知识库!

day22:进阶!三种数据处理办法,提高知识库性能!

day23:进阶!知识库可视化高级编排!

day24:进阶!自定义内容,不该说的一句不说,只聊指定内容!

day25:按部门/学科,建立知识库并分发给对应部门使用

一边做一边看大家反馈,有不清楚的,雄哥再补充!

ok!人的专注力只有10分钟!那,话不多说!

本篇在win11系统完成,需要docker+WSL子系统(非wsl不稳定)!

星球的伙伴学完【7天精通docker】,可以直接上手!

还没来得及学的,可以回星球先学!

点击申请加入星球icon-default.png?t=N7T8https://t.zsxq.com/15XR5BKhd

整个过程非常的简单!

① 下载配置文件

② 拉取镜像

③ 启动fastgpt容器

④ 打开知识库应用

⑤ 日后更新的方法

第一部分:下载配置文件


配置文件同步上传了知识星球会员盘以下路径:

知识星球会员盘>08.知识库搭建>FASTGPT>day16

图片

下载之后,你新建一个fastgpt文件夹,把它放到非中文无空格的本地文件中!建议根目录!

这里,雄哥用的是WSL系统,我把他放到了root>fastgpt中!

图片

第二部分:拉取镜像


ok!接下来,我们要使用docker,拉取镜像安装!

打开wsl!cd到上面我们配置文件的文件夹中,否则无法安装!

cd fastgpt

如果你不会cd,也可以直接在窗口文件夹路径输入'cmd',回车!这时,会启动一个cmd窗口!默认就进路径了!

图片

现在我们,输入这个指令,拉取镜像!

docker-compose pull

图片

第三部分:启动fastgpt容器


输入下面这个指令!启动docker镜像!

docker-compose up -d

这时,你看到在系统安装的docker,镜像已经成功部署到本地了!

图片

我们回到刚刚放配置文件的位置,检查一下有无安装成功,项目使用了MongoDB以及PG!

图片

第四部分:打开知识库应用


他默认的端口是‘3000’!你只需要点击docker上圈圈,端口的按钮,他会自动跳转到浏览器!

如果你没改过配置文件!默认的账号密码如下:

账号:root

密码:1234

图片

第五部分:日后更新方法


日后你的更新,必须要先备份文件,后面会教,然后按照雄哥的方法更新!

docker-compose pulldocker-compose up -d

至此!成功部署到本地了!

当然,现在知识库还不能工作,因为现在还没有接入大模型到知识库中,下一篇,我们部署one-api,接入本地的大模型到知识库中!

星球的伙伴,一定要打卡啦!

这篇关于不!GPTs无法取代知识库?0基础搭建本地私有知识库!本地fastgpt部署!16/45的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/675796

相关文章

JavaWeb项目创建、部署、连接数据库保姆级教程(tomcat)

《JavaWeb项目创建、部署、连接数据库保姆级教程(tomcat)》:本文主要介绍如何在IntelliJIDEA2020.1中创建和部署一个JavaWeb项目,包括创建项目、配置Tomcat服务... 目录简介:一、创建项目二、tomcat部署1、将tomcat解压在一个自己找得到路径2、在idea中添加

Java利用Spire.Doc for Java实现在模板的基础上创建Word文档

《Java利用Spire.DocforJava实现在模板的基础上创建Word文档》在日常开发中,我们经常需要根据特定数据动态生成Word文档,本文将深入探讨如何利用强大的Java库Spire.Do... 目录1. Spire.Doc for Java 库介绍与安装特点与优势Maven 依赖配置2. 通过替换

Python + Streamlit项目部署方案超详细教程(非Docker版)

《Python+Streamlit项目部署方案超详细教程(非Docker版)》Streamlit是一款强大的Python框架,专为机器学习及数据可视化打造,:本文主要介绍Python+St... 目录一、针对 Alibaba Cloud linux/Centos 系统的完整部署方案1. 服务器基础配置(阿里

nacos服务无法注册到nacos服务中心问题及解决

《nacos服务无法注册到nacos服务中心问题及解决》本文详细描述了在Linux服务器上使用Tomcat启动Java程序时,服务无法注册到Nacos的排查过程,通过一系列排查步骤,发现问题出在Tom... 目录简介依赖异常情况排查断点调试原因解决NacosRegisterOnWar结果总结简介1、程序在

JavaScript装饰器从基础到实战教程

《JavaScript装饰器从基础到实战教程》装饰器是js中一种声明式语法特性,用于在不修改原始代码的情况下,动态扩展类、方法、属性或参数的行为,本文将从基础概念入手,逐步讲解装饰器的类型、用法、进阶... 目录一、装饰器基础概念1.1 什么是装饰器?1.2 装饰器的语法1.3 装饰器的执行时机二、装饰器的

Java JAR 启动内存参数配置指南(从基础设置到性能优化)

《JavaJAR启动内存参数配置指南(从基础设置到性能优化)》在启动Java可执行JAR文件时,合理配置JVM内存参数是保障应用稳定性和性能的关键,本文将系统讲解如何通过命令行参数、环境变量等方式... 目录一、核心内存参数详解1.1 堆内存配置1.2 元空间配置(MetASPace)1.3 线程栈配置1.

MongoDB搭建过程及单机版部署方法

《MongoDB搭建过程及单机版部署方法》MongoDB是一个灵活、高性能的NoSQL数据库,特别适合快速开发和大规模分布式系统,本文给大家介绍MongoDB搭建过程及单机版部署方法,感兴趣的朋友跟随... 目录前言1️⃣ 核心特点1、文档存储2、无模式(Schema-less)3、高性能4、水平扩展(Sh

Docker + Redis 部署集群的实现步骤

《Docker+Redis部署集群的实现步骤》本文详细介绍了在三台服务器上部署高可用Redis集群的完整流程,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋... 目录一、环境准备1. 服务器规划(3 台服务器)2. 防火墙配置(三台服务器均执行)3. 安装 docke

从基础到高级详解Go语言中错误处理的实践指南

《从基础到高级详解Go语言中错误处理的实践指南》Go语言采用了一种独特而明确的错误处理哲学,与其他主流编程语言形成鲜明对比,本文将为大家详细介绍Go语言中错误处理详细方法,希望对大家有所帮助... 目录1 Go 错误处理哲学与核心机制1.1 错误接口设计1.2 错误与异常的区别2 错误创建与检查2.1 基础

Nginx分布式部署流程分析

《Nginx分布式部署流程分析》文章介绍Nginx在分布式部署中的反向代理和负载均衡作用,用于分发请求、减轻服务器压力及解决session共享问题,涵盖配置方法、策略及Java项目应用,并提及分布式事... 目录分布式部署NginxJava中的代理代理分为正向代理和反向代理正向代理反向代理Nginx应用场景