unbantu安装ollama,maxkb

2024-05-28 17:44
文章标签 安装 ollama unbantu maxkb

本文主要是介绍unbantu安装ollama,maxkb,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档

文章目录

  • 背景
  • 一、Ollama安装
    • 1.安装
    • 2.安装后检验
    • 3.运行模型
    • 4.常用命令
  • 二、安装maxkb
    • 1.说明
    • 2.docker安装maxkb
    • 2.添加模型
    • 3.创建应用
    • 4.api域名无效
  • 三、总结


背景

最近在学习ai相关内容,看到本地可以部署大语言模型,就尝试记录一下,本文章记录了安装ollama和前端页面maxkb


提示:以下是本篇文章正文内容,下面案例可供参考

一、Ollama安装

1.安装

直接执行命令

curl -fsSL https://ollama.com/install.sh | sh

2.安装后检验

ollama -v

能显示版本的话,就是安装好了
ollama api端口默认11434,可以直接访问

curl http://127.0.0.1:11434 

会返回Ollama is running

3.运行模型

以通义千问为例

ollama run qwen:7b

上述命令就会直接下载并运行qwen:7b,运行成功即可对话
提示:关于ollama支持哪些模型,可以查看[ollama官网](https://ollama.com/)

4.常用命令

# 查看运行中的模型
ollama list# 下载并运行模型 ollama run 模型名:版本
ollama run qwen:7b# 删除模型 ollama rm 模型名:版本
ollama rm qwen:7b

二、安装maxkb

1.说明

maxkb可以作为ollama的前端页面,提供更友好的交互方式

2.docker安装maxkb

docker run -d --name=maxkb -p 8080:8080 -v ~/maxkb:/var/lib/postgresql/data 1panel/maxkb

安装完成之后,访问ip:8080,即可进入maxkb界面,默认账号 admin/MaxKB@123…

2.添加模型

在这里插入图片描述
在这里插入图片描述
名称和apikey可以随便填

3.创建应用

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

4.api域名无效

浏览器访问http://127.0.0.1:11434能正确响应,但是访问192.168.0.101:11434无发访问,跟ollama配置有关系。
找到ollama配置文件,我的是在这个目录/etc/systemd/system/ollama.service,添加环境变量OLLAMA_HOST
如:
Environment=“OLLAMA_HOST=0.0.0.0:11434”

保存后重新加载配置,再重启ollama服务,就能解决ollama只能127.0.0.1访问的问题
相关命令

# 重载daemon文件
systemctl daemon-reload
# 重启
systemctl restart ollama

三、总结

先这样吧,后续慢慢研究再记录

这篇关于unbantu安装ollama,maxkb的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1011257

相关文章

Python中win32包的安装及常见用途介绍

《Python中win32包的安装及常见用途介绍》在Windows环境下,PythonWin32模块通常随Python安装包一起安装,:本文主要介绍Python中win32包的安装及常见用途的相关... 目录前言主要组件安装方法常见用途1. 操作Windows注册表2. 操作Windows服务3. 窗口操作

gitlab安装及邮箱配置和常用使用方式

《gitlab安装及邮箱配置和常用使用方式》:本文主要介绍gitlab安装及邮箱配置和常用使用方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1.安装GitLab2.配置GitLab邮件服务3.GitLab的账号注册邮箱验证及其分组4.gitlab分支和标签的

MySQL MCP 服务器安装配置最佳实践

《MySQLMCP服务器安装配置最佳实践》本文介绍MySQLMCP服务器的安装配置方法,本文结合实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下... 目录mysql MCP 服务器安装配置指南简介功能特点安装方法数据库配置使用MCP Inspector进行调试开发指

在Windows上使用qemu安装ubuntu24.04服务器的详细指南

《在Windows上使用qemu安装ubuntu24.04服务器的详细指南》本文介绍了在Windows上使用QEMU安装Ubuntu24.04的全流程:安装QEMU、准备ISO镜像、创建虚拟磁盘、配置... 目录1. 安装QEMU环境2. 准备Ubuntu 24.04镜像3. 启动QEMU安装Ubuntu4

Python UV安装、升级、卸载详细步骤记录

《PythonUV安装、升级、卸载详细步骤记录》:本文主要介绍PythonUV安装、升级、卸载的详细步骤,uv是Astral推出的下一代Python包与项目管理器,主打单一可执行文件、极致性能... 目录安装检查升级设置自动补全卸载UV 命令总结 官方文档详见:https://docs.astral.sh/

Nexus安装和启动的实现教程

《Nexus安装和启动的实现教程》:本文主要介绍Nexus安装和启动的实现教程,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、Nexus下载二、Nexus安装和启动三、关闭Nexus总结一、Nexus下载官方下载链接:DownloadWindows系统根

Java SWT库详解与安装指南(最新推荐)

《JavaSWT库详解与安装指南(最新推荐)》:本文主要介绍JavaSWT库详解与安装指南,在本章中,我们介绍了如何下载、安装SWTJAR包,并详述了在Eclipse以及命令行环境中配置Java... 目录1. Java SWT类库概述2. SWT与AWT和Swing的区别2.1 历史背景与设计理念2.1.

安装centos8设置基础软件仓库时出错的解决方案

《安装centos8设置基础软件仓库时出错的解决方案》:本文主要介绍安装centos8设置基础软件仓库时出错的解决方案,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐... 目录安装Centos8设置基础软件仓库时出错版本 8版本 8.2.200android4版本 javas

Pytorch介绍与安装过程

《Pytorch介绍与安装过程》PyTorch因其直观的设计、卓越的灵活性以及强大的动态计算图功能,迅速在学术界和工业界获得了广泛认可,成为当前深度学习研究和开发的主流工具之一,本文给大家介绍Pyto... 目录1、Pytorch介绍1.1、核心理念1.2、核心组件与功能1.3、适用场景与优势总结1.4、优

conda安装GPU版pytorch默认却是cpu版本

《conda安装GPU版pytorch默认却是cpu版本》本文主要介绍了遇到Conda安装PyTorchGPU版本却默认安装CPU的问题,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的... 目录一、问题描述二、网上解决方案罗列【此节为反面方案罗列!!!】三、发现的根本原因[独家]3.1 p