【书生3.6】MindSearch 快速部署

2024-08-30 19:04

本文主要是介绍【书生3.6】MindSearch 快速部署,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

MindSearch 快速部署

    • 1 环境准备
    • 2 获取apikey
    • 3 启动MindSearch
      • 3.1 启动后端
      • 3.2 启动前端
      • 3.3 测试使用
    • 4 部署到HuggingFace Space
      • 4.1 创建space
      • 4.2 配置secret
      • 4.3 创建写权限的token
      • 4.4 创建本地仓库
      • 4.5 提交-推送
    • 5 测试验证

  • codespace主页:一个线上服务器。
  • 硅基流动:类似百川、通义这种线上文生文、文生图
  • HuggingFace Space: 提供了一个易于使用的GUI,用于构建和部署Web 托管的ML 演示及应用。 该服务使得用户可以快速构建ML 演示、上传要托管的自有应用,甚至即时部署多个预配置的ML 应用。

需要有github、hugging、 硅基流动账号

1 环境准备

打开codespace主页;需要有github账号

在这里插入图片描述

创建conda虚拟环境

# 创建环境
conda create -n mindsearch python=3.10 -y# 这里需要先
conda init
# 然后关闭终端,重启才可以使用# 激活环境
conda activate mindsearch
# 安装依赖
pip install -r /workspaces/mindsearch/MindSearch/requirements.txt

注意conda init;然后关闭终端,重启才可以使用

在这里插入图片描述

2 获取apikey

注册硅基流动

在这里插入图片描述

3 启动MindSearch

3.1 启动后端

#export SILICON_API_KEY=sk-srirwcbmyttigyacoabutufvdkkgl
export SILICON_API_KEY=第二步中复制的密钥
conda activate mindsearch
cd /workspaces/mindsearch/MindSearch
python -m mindsearch.app --lang cn --model_format internlm_silicon --search_engine DuckDuckGoSearch

3.2 启动前端

conda activate mindsearch
cd /workspaces/mindsearch/MindSearch
python frontend/mindsearch_gradio.py

在这里插入图片描述

3.3 测试使用

在这里插入图片描述

4 部署到HuggingFace Space

4.1 创建space

在这里插入图片描述

在这里插入图片描述

4.2 配置secret

在这里插入图片描述

4.3 创建写权限的token

在这里插入图片描述

4.4 创建本地仓库

  • 回到codespace
  • 把要提交的文件先整理出来
(base) @QiuZiXian ➜ /workspaces/codespaces-blank $ mkdir -p /workspaces/mindsearch/mindsearch_deploy
(base) @QiuZiXian ➜ /workspaces/codespaces-blank $ cd /workspaces/mindsearch
(base) @QiuZiXian ➜ /workspaces/mindsearch $ cp -r /workspaces/mindsearch/MindSearch/mindsearch /workspaces/mindsearch/mindsearch_deploy
(base) @QiuZiXian ➜ /workspaces/mindsearch $ cp /workspaces/mindsearch/MindSearch/requirements.txt /workspaces/mindsearch/mindsearch_deploy
(base) @QiuZiXian ➜ /workspaces/mindsearch $ touch /workspaces/mindsearch/mindsearch_deploy/app.py
(base) @QiuZiXian ➜ /workspaces/mindsearch $ vi /workspaces/mindsearch/mindsearch_deploy/app.py
(base) @QiuZiXian ➜ /workspaces/mindsearch $ cd /workspaces/mindsearch/mindsearch_deploy
  • 把huggingface上创建的库克隆下来(其实不用,直接对mindsearch_deploy设置git remote;本文仍按教程)
(base) @QiuZiXian ➜ /workspaces/mindsearch/mindsearch_deploy $ cd /workspaces/
(base) @QiuZiXian ➜ /workspaces $ ls
codespaces-blank  mindsearch
(base) @QiuZiXian ➜ /workspaces $ git clone https://huggingface.co/spaces/akufire/shusheng
# 把token挂到仓库上,让自己有写权限
git remote set-url space https://<你的名字>:<上面创建的token>@huggingface.co/spaces/<你的名字>/<仓库名称>
# 先cd到本地库
cd shusheng
# 注意这里是origin;不是space
git remote set-url origin https://akufire:hf_kcIiPgowyUbfXOAfttBZmWbb@huggingface.co/spaces/akufire/shusheng
# 注意-r
cp -r /workspaces/mindsearch/mindsearch_deploy/* .

4.5 提交-推送

git add .
git commit -m "update"
git push

在这里插入图片描述

5 测试验证

回到huggingface space:https://huggingface.co/spaces/akufire/shusheng

在这里插入图片描述

这篇关于【书生3.6】MindSearch 快速部署的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1121673

相关文章

通过Docker容器部署Python环境的全流程

《通过Docker容器部署Python环境的全流程》在现代化开发流程中,Docker因其轻量化、环境隔离和跨平台一致性的特性,已成为部署Python应用的标准工具,本文将详细演示如何通过Docker容... 目录引言一、docker与python的协同优势二、核心步骤详解三、进阶配置技巧四、生产环境最佳实践

Nginx部署HTTP/3的实现步骤

《Nginx部署HTTP/3的实现步骤》本文介绍了在Nginx中部署HTTP/3的详细步骤,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学... 目录前提条件第一步:安装必要的依赖库第二步:获取并构建 BoringSSL第三步:获取 Nginx

redis-sentinel基础概念及部署流程

《redis-sentinel基础概念及部署流程》RedisSentinel是Redis的高可用解决方案,通过监控主从节点、自动故障转移、通知机制及配置提供,实现集群故障恢复与服务持续可用,核心组件包... 目录一. 引言二. 核心功能三. 核心组件四. 故障转移流程五. 服务部署六. sentinel部署

Python多线程实现大文件快速下载的代码实现

《Python多线程实现大文件快速下载的代码实现》在互联网时代,文件下载是日常操作之一,尤其是大文件,然而,网络条件不稳定或带宽有限时,下载速度会变得很慢,本文将介绍如何使用Python实现多线程下载... 目录引言一、多线程下载原理二、python实现多线程下载代码说明:三、实战案例四、注意事项五、总结引

C#使用Spire.XLS快速生成多表格Excel文件

《C#使用Spire.XLS快速生成多表格Excel文件》在日常开发中,我们经常需要将业务数据导出为结构清晰的Excel文件,本文将手把手教你使用Spire.XLS这个强大的.NET组件,只需几行C#... 目录一、Spire.XLS核心优势清单1.1 性能碾压:从3秒到0.5秒的质变1.2 批量操作的优雅

Linux部署中的文件大小写问题的解决方案

《Linux部署中的文件大小写问题的解决方案》在本地开发环境(Windows/macOS)一切正常,但部署到Linux服务器后出现模块加载错误,核心原因是Linux文件系统严格区分大小写,所以本文给大... 目录问题背景解决方案配置要求问题背景在本地开发环境(Windows/MACOS)一切正常,但部署到

Mybatis-Plus 3.5.12 分页拦截器消失的问题及快速解决方法

《Mybatis-Plus3.5.12分页拦截器消失的问题及快速解决方法》作为Java开发者,我们都爱用Mybatis-Plus简化CRUD操作,尤其是它的分页功能,几行代码就能搞定复杂的分页查询... 目录一、问题场景:分页拦截器突然 “失踪”二、问题根源:依赖拆分惹的祸三、解决办法:添加扩展依赖四、分页

c++日志库log4cplus快速入门小结

《c++日志库log4cplus快速入门小结》文章浏览阅读1.1w次,点赞9次,收藏44次。本文介绍Log4cplus,一种适用于C++的线程安全日志记录API,提供灵活的日志管理和配置控制。文章涵盖... 目录简介日志等级配置文件使用关于初始化使用示例总结参考资料简介log4j 用于Java,log4c

使用Redis快速实现共享Session登录的详细步骤

《使用Redis快速实现共享Session登录的详细步骤》在Web开发中,Session通常用于存储用户的会话信息,允许用户在多个页面之间保持登录状态,Redis是一个开源的高性能键值数据库,广泛用于... 目录前言实现原理:步骤:使用Redis实现共享Session登录1. 引入Redis依赖2. 配置R

使用IDEA部署Docker应用指南分享

《使用IDEA部署Docker应用指南分享》本文介绍了使用IDEA部署Docker应用的四步流程:创建Dockerfile、配置IDEADocker连接、设置运行调试环境、构建运行镜像,并强调需准备本... 目录一、创建 dockerfile 配置文件二、配置 IDEA 的 Docker 连接三、配置 Do