本文主要是介绍【LLM大模型】本地玩转多模态Llama3，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！
一般开源的LLM，例如Llama3和Qwen2等，只支持文本的输入，只能理解文本的内容，实现基于文本的逻辑推理和意图识别。
但是一些Chatbot，例如GPT-4V，就是拥有视觉能力，能够理解图片内容，能够更好的解决现实中的实际问题。
如何给开源大模型添加上视觉Vision？本篇文章助力大家在本地玩转多模态的Llama3。
理解LLaVA方案
给LLM装上电子眼：
添加上一个Image Projector，让大模型具有处理图片输入的能力，再经过向量对齐，输入LLM中，就可以使大模型增加对输入图片的理解。
所使用的文本单模型LLM和训练出来的Image Projector，统称为LLaVA模型。
LLaVA（Large Language-and-Vision Assistant），是一个在LLM基础上来实现对视觉问题问答的解决方案。
Image Projector的训练和测试，有点类似之前我们讲过的LoRA**微调方案，XTuner微调LLM实践。
二者都是在已有LLM的基础上，用新的数据训练一个新的小文件。
只不过，LLM套上LoRA之后，有了新的灵魂（角色）；而LLM套上Image Projector之后，才有了眼睛。
简述Image Projector的训练过程
训练过程分为为2个阶段：Pretrain和Finetune。
在Pretrain阶段，我们会使用大量的图片+简单文本（即图片标题）数据对，使LLM理解图像中的普遍特征。即对大量的图片进行粗看。
Pretrain阶段训练完成后，此时的模型已经有视觉能力了！但是由于训练数据中都是图片+图片标题，所以此时的图片虽然有视觉能力，但无论用户问它什么，它都只会回答输入图片的标题，即此时的模型只会给输入图像“写标题”。
在Finetune阶段，我们会使用图片+复杂文本数据对（多轮对话数据），来对Pretrain得到的Image Projector进行进一步的训练。
选择和下载模型
Xtuner是一个大模型微调工具箱。https://github.com/InternLM/xtuner。
Xtuner是一个高效、灵活、全能的轻量化大模型微调工具库。
- 支持多种开源的大语言模型
- 支持多种微调方法，QLoRA、LoRA、全量参数微调
- 支持多种微调算法
本次我们选择Xtuner团队 https://huggingface.co/xtuner。其团队微调的系列模型有：
- phi-3-mini
- Llama3
- InternLM2
- Qwen
- Llama2
其中的，Vision大模型LLaVA-Llama-3-8B。
huggingface仓库中提供了量化好的GGUF格式，直接可以在Ollama的F16半精度模型和INT4精度模型：
- llava-llama-3-8b-v1_1-f16.gguf 模型大小是16.1GB
- llava-llama-3-8b-v1_1-int4.gguf 模型大小是4.92GB
创建本地模型
本地部署LLM，采取的方案是Ollama部署，推荐大家先阅读，我之前的的文章：
- 在Mac本地部署并访问Llama3
- 本地部署中文Llama3并用弱智吧测试
可以选择Makefile创建
Xtuner团队的huggingface仓库，提供了文件：
FROM ./llava-llama-3-8b-v1_1-f16.gguf
FROM ./llava-llama-3-8b-v1_1-mmproj-f16.gguf
TEMPLATE """{{ if .System }}<|start_header_id|>system<|end_header_id|>{{ .System }}<|eot_id|>{{ end }}{{ if .Prompt }}<|start_header_id|>user<|end_header_id|>{{ .Prompt }}<|eot_id|>{{ end }}<|start_header_id|>assistant<|end_header_id|>{{ .Response }}<|eot_id|>"""
PARAMETER stop "<|start_header_id|>"
PARAMETER stop "<|end_header_id|>"
PARAMETER stop "<|eot_id|>"
PARAMETER num_keep 4
PARAMETER num_ctx 4096
执行相关命令，可以参考文章本地部署中文Llama3并用弱智吧测试。
从Ollama官方仓库下载
Ollama官方仓库，已经有了llava-llama3的模型。大小16GB。
ollama pull llava-llama3:8b-v1.1-fp16
安装open-webui
因为目前chatbox主推自己ChatBox** AI，不支持本地部署的开源大模型，上传图片对话。
所以我们需要安装open-webui，它支持Ollama部署的模型，进行图片对话理解。
open-webui，原名叫做Ollama WebUI。
https://github.com/open-webui/open-webui
支持多模态，支持文档、本地RAG集成、网页浏览功能、语言输入支持、AI绘画**、多个模型对话。
官方推荐的是用docker进行安装。需要提前在本地安装好Docker软件。
If Ollama is on your computer, use this command:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
访问页面地址
http://localhost:3000/
这样你就拥有一个完全属于自己的，本地部署的ChatGPT**。
测试Vision大模型能力
ImageNet，图片识别
图片中的动物是水豚。它四肢着地站在一块岩石上，毛色是灰色的。水豚面对镜头时，它的头微微向左倾斜。
可以说，回答是十分准确的。
图片数量识别
回答并不完全正确，但是也可以识别。
OCR识别**和指令跟随
识别的不是很准确，但是指令跟随的效果还是可以。
表格和图表解读
回答得非常不好，不能识别图表中的信息。
复杂信息提取
大促销海报信息提取
回答依旧不是很出色。
如何系统的去学习大模型LLM ？
大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等问题热议不断。
事实上，抢你饭碗的不是AI，而是会利用AI的人。
继科大讯飞、阿里、华为等巨头公司发布AI产品后，很多中小企业也陆续进场！超高年薪，挖掘AI大模型人才！ 如今大厂老板们，也更倾向于会AI的人，普通程序员，还有应对的机会吗？
与其焦虑……
不如成为「掌握AI工具的技术人」，毕竟AI时代，谁先尝试，谁就能占得先机！
但是LLM相关的内容很多，现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学，学习成本和门槛很高。
针对所有自学遇到困难的同学们，我帮大家系统梳理大模型学习脉络，将这份 LLM大模型资料 分享出来：包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓
👉CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈
一、LLM大模型经典书籍
AI大模型已经成为了当今科技领域的一大热点，那以下这些大模型书籍就是非常不错的学习资源。
二、640套LLM大模型报告合集
这套包含640份报告的合集，涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)
三、LLM大模型系列视频教程
四、LLM大模型开源教程（LLaLA/Meta/chatglm/chatgpt）
LLM大模型学习路线 ↓
阶段1：AI大模型时代的基础理解
-
目标：了解AI大模型的基本概念、发展历程和核心原理。
-
内容：
- L1.1 人工智能简述与大模型起源
- L1.2 大模型与通用人工智能
- L1.3 GPT模型的发展历程
- L1.4 模型工程
- L1.4.1 知识大模型
- L1.4.2 生产大模型
- L1.4.3 模型工程方法论
- L1.4.4 模型工程实践
- L1.5 GPT应用案例
阶段2：AI大模型API应用开发工程
-
目标：掌握AI大模型API的使用和开发，以及相关的编程技能。
-
内容：
- L2.1 API接口
- L2.1.1 OpenAI API接口
- L2.1.2 Python接口接入
- L2.1.3 BOT工具类框架
- L2.1.4 代码示例
- L2.2 Prompt框架
- L2.3 流水线工程
- L2.4 总结与展望
阶段3：AI大模型应用架构实践
-
目标：深入理解AI大模型的应用架构，并能够进行私有化部署。
-
内容：
- L3.1 Agent模型框架
- L3.2 MetaGPT
- L3.3 ChatGLM
- L3.4 LLAMA
- L3.5 其他大模型介绍
阶段4：AI大模型私有化部署
-
目标：掌握多种AI大模型的私有化部署，包括多模态和特定领域模型。
-
内容：
- L4.1 模型私有化部署概述
- L4.2 模型私有化部署的关键技术
- L4.3 模型私有化部署的实施步骤
- L4.4 模型私有化部署的应用场景
这份 LLM大模型资料 包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓
👉CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈
这篇关于【LLM大模型】本地玩转多模态Llama3的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！
