大模型额外篇章二：基于chalm3或Llama2-7b训练酒店助手模型

本文主要是介绍大模型额外篇章二：基于chalm3或Llama2-7b训练酒店助手模型，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

文章目录

- 一、代码部分讲解
- 二、实际部署步骤(CHALM3训练步骤)
- - 1）注册AutoDL官网实名认证
  - 2）花费额度挑选GPU
  - 3）准备实验环境
  - 4）开始执行脚本
  - 5）从浏览器访问
  - 6）可以开始提问
  - 7）开始微调模型
  - 8）测试训练后的模型
- 三、基于Llama2-7b的训练
- 四、额外补充
- - 1）修改参数后
  - 2）如果需要访问科学的彼岸

一、代码部分讲解

二、实际部署步骤(CHALM3训练步骤)

1）注册AutoDL官网实名认证

①官网地址：https://www.autodl.com/
②按常规方法注册、登录后，还要做个人实名认证。如果不实名认证，无法从浏览器访问你训练的大模型，看不到训练效果。

2）花费额度挑选GPU

①点击算力市场
②RTX 4090，显存大于 20GB 的均可。选中后，点击「n 卡可租」。
在这里插入图片描述
③只需选择一个 GPU，然后点击「社区镜像」，选中自己制定的镜像，然后点击「立即创建」

在这里插入图片描述
④在容器实例中可以看到刚创建的容器。当「状态」为「运行中」时，表示创建完成，并且开始计费。
如果想暂停计费，请点击「关机」。下次需要使用时，再点击「开机」。
agiclass/fine-tuning-lab/finetune-lab-v4 是我们制作的容器镜像。它预设好了实验环境，包含了llama2的权重、chatglm3的权重下载命令、训好的checkpoints、自己训练所需的数据集和代码等