如何拥有自己私有化部署的大模型?Mac下部署Ollama并使用llama3.1模型的方法详解

本文主要是介绍如何拥有自己私有化部署的大模型?Mac下部署Ollama并使用llama3.1模型的方法详解,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

😄啥是Ollama

Ollama 是一个开源的、专为本地环境设计的轻量级、可扩展框架,用于构建和运行大型语言模型(LLMs)。它允许用户在本地机器上部署和运行语言模型,无需依赖外部服务器或云服务,从而提高数据处理的隐私性和安全性。

简单来解释就是,Ollama是一个框架,可以用来在本地运行各种开源大模型,很方便。

🍆如何安装Ollama

首先,来到Ollama的官方网站:

Ollama

网页相当简洁,点击下载就可以了。

选择你的操作系统,这里选择macos,当然如果你是windows,就选择windows,然后下载。

下载完成后,解压缩,就可以得到一只小羊驼。

双击Ollama图标,会弹窗,点击“打开”就好。

之后会提示你,Ollama放在应用目录下运行效果比较好,为了保证兼容性或者不出一些奇奇怪怪的bug,我这里建议选择 “move to applications”.他会自动把这个应用复制一份到应用目录下。

点击Next。 

点击install进行安装即可。 

弹窗出来的页面,这里需要点击命令行右侧的小图标,复制这行命令。点击“finish”完成。 

这个时候,你会发现任务栏多了一只小羊驼

但这个时候,其实还没有安装模型,你需要手动安装一下模型。

找到你电脑上的应用-》终端,打开:

粘贴你刚才复制的命令,然后回车,系统会开始下载模型:

耐心等待即可,这里可能需要一些魔法。

当然,如果你网络断了,这个也是支持断点续传的,下次网络好了接着下载就可以。

如果你电脑配置特别棒,希望用更强的模型,那么也可以到官网下载别的模型:

然后在列表中选择你喜欢的模型:

然后选择你喜欢的版本:

 点击右边的复制小图标,复制命令行,并在终端执行,就可以下载对应的模型并使用了。

安装完成就可以在命令行愉快的对话了,不过前提是你的mac性能得好一点🤏

✨写在最后

如果对comfyui还不熟悉的话,最近面向ComfyUI的新手,写了一门系统性入门图文课程,现在已经更新完成了,内容主要包括如何下载软件、如何搭建自己的工作流、关键基础节点讲解、遇到报错怎么解决等等,如果大家在学习过程中遇到什么问题,也可以直接对应的文章下留言,会持续更新相关答疑内容哈。欢迎订阅哦~

https://blog.csdn.net/jumengxiaoketang/category_12683612.html

​​

感谢大家的支持~

这篇关于如何拥有自己私有化部署的大模型?Mac下部署Ollama并使用llama3.1模型的方法详解的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1106436

相关文章

SpringBoot日志级别与日志分组详解

《SpringBoot日志级别与日志分组详解》文章介绍了日志级别(ALL至OFF)及其作用,说明SpringBoot默认日志级别为INFO,可通过application.properties调整全局或... 目录日志级别1、级别内容2、调整日志级别调整默认日志级别调整指定类的日志级别项目开发过程中,利用日志

Java中的抽象类与abstract 关键字使用详解

《Java中的抽象类与abstract关键字使用详解》:本文主要介绍Java中的抽象类与abstract关键字使用详解,本文通过实例代码给大家介绍的非常详细,感兴趣的朋友跟随小编一起看看吧... 目录一、抽象类的概念二、使用 abstract2.1 修饰类 => 抽象类2.2 修饰方法 => 抽象方法,没有

MyBatis ParameterHandler的具体使用

《MyBatisParameterHandler的具体使用》本文主要介绍了MyBatisParameterHandler的具体使用,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参... 目录一、概述二、源码1 关键属性2.setParameters3.TypeHandler1.TypeHa

Spring 中的切面与事务结合使用完整示例

《Spring中的切面与事务结合使用完整示例》本文给大家介绍Spring中的切面与事务结合使用完整示例,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考... 目录 一、前置知识:Spring AOP 与 事务的关系 事务本质上就是一个“切面”二、核心组件三、完

使用docker搭建嵌入式Linux开发环境

《使用docker搭建嵌入式Linux开发环境》本文主要介绍了使用docker搭建嵌入式Linux开发环境,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面... 目录1、前言2、安装docker3、编写容器管理脚本4、创建容器1、前言在日常开发全志、rk等不同

MySQL8 密码强度评估与配置详解

《MySQL8密码强度评估与配置详解》MySQL8默认启用密码强度插件,实施MEDIUM策略(长度8、含数字/字母/特殊字符),支持动态调整与配置文件设置,推荐使用STRONG策略并定期更新密码以提... 目录一、mysql 8 密码强度评估机制1.核心插件:validate_password2.密码策略级

使用Python实现Word文档的自动化对比方案

《使用Python实现Word文档的自动化对比方案》我们经常需要比较两个Word文档的版本差异,无论是合同修订、论文修改还是代码文档更新,人工比对不仅效率低下,还容易遗漏关键改动,下面通过一个实际案例... 目录引言一、使用python-docx库解析文档结构二、使用difflib进行差异比对三、高级对比方

JavaScript中比较两个数组是否有相同元素(交集)的三种常用方法

《JavaScript中比较两个数组是否有相同元素(交集)的三种常用方法》:本文主要介绍JavaScript中比较两个数组是否有相同元素(交集)的三种常用方法,每种方法结合实例代码给大家介绍的非常... 目录引言:为什么"相等"判断如此重要?方法1:使用some()+includes()(适合小数组)方法2

从入门到精通详解Python虚拟环境完全指南

《从入门到精通详解Python虚拟环境完全指南》Python虚拟环境是一个独立的Python运行环境,它允许你为不同的项目创建隔离的Python环境,下面小编就来和大家详细介绍一下吧... 目录什么是python虚拟环境一、使用venv创建和管理虚拟环境1.1 创建虚拟环境1.2 激活虚拟环境1.3 验证虚

详解python pycharm与cmd中制表符不一样

《详解pythonpycharm与cmd中制表符不一样》本文主要介绍了pythonpycharm与cmd中制表符不一样,这个问题通常是因为PyCharm和命令行(CMD)使用的制表符(tab)的宽... 这个问题通常是因为PyCharm和命令行(CMD)使用的制表符(tab)的宽度不同导致的。在PyChar