当前位置：首页 > news >正文

技术 | LLaMA Factory微调记录重修版

news 来源：原创 2025/9/16 18:28:53

之前投的那篇教程我自己回看一遍都不太搞得明白，从新梳理一遍

1. 云服务器准备

恒源云 (gpushare.com) 配置建议：

GPU: RTX 3090 (24GB) 或 RTX 4090 (24GB)
系统: Ubuntu 20.04/22.04
存储: 至少 50GB 空间

2. 环境检查与初始化

# 检查GPU状态
nvidia-smi# 检查系统信息
df -h  # 查看磁盘空间
free -h  # 查看内存

用home目录存储训练数据

因为网络不怎么友好，因此提前下载好LLaMA Factory的安装包，直接拖到home目录

3. LLaMA-Factory 安装与配置

# 进入home目录
cd /home# 解压LLaMA-Factory（如果您已经上传zip文件）
unzip LLaMA-Factory-main.zip# 进入目录
cd LLaMA-Factory-main# 安装依赖（使用国内镜像加速）
pip install -r requirements.txt -i https://mirrors.aliyun.com/pypi/simple/# 安装为可编辑模式（创建CLI命令）
pip install -e .

输出地址会被映射到7860端口（类似 http://0.0.0.0:7860），AutoDL 需端口映射：

4. 下载预训练模型 Qwen-7B-Chat [4]

# 回到home目录
cd /home# 创建模型目录并下载
mkdir Qwen-7B-Chat
cd Qwen-7B-Chat# 使用ModelScope下载（国内推荐）
modelscope download Qwen/Qwen-7B-Chat --local_dir ./# 或者使用HuggingFace Hub（需要魔法）
# huggingface-cli download Qwen/Qwen-7B-Chat --local-dir . --resume-download

下载 [3] 训练集文件，进入data/identity.json查看默认训练格式，将训练文件格式替换成标准格式
并在 dataset_info.json文件中添加训练集

5. 准备训练数据

数据转换脚本 (data_conversion.py):

import jsondef convert_jsonl_to_json(input_file, output_file):"""将JSONL格式转换为LLaMA-Factory需要的JSON格式"""data = []with open(input_file, 'r', encoding='utf-8') as f:for line in f:line = line.strip()if not line:continuetry:obj = json.loads(line)# 根据您的数据结构调整for conv in obj.get("conversation", []):data.append({"instruction": conv.get("human", ""),"input": "","output": conv.get("assistant", "")})except json.JSONDecodeError as e:print(f"解析错误: {e}, 行内容: {line}")with open(output_file, 'w', encoding='utf-8') as f:json.dump(data, f, ensure_ascii=False, indent=2)print(f"转换完成！共 {len(data)} 条数据，已保存到 {output_file}")# 使用示例
if __name__ == "__main__":convert_jsonl_to_json("train.jsonl", "train_converted.json")

运行转换：

# 将训练数据放到data目录
cd /home/LLaMA-Factory-main/data# 运行转换脚本
python /path/to/data_conversion.py# 检查转换后的文件
head -n 5 train_converted.json

配置数据集信息：
编辑 dataset_info.json 文件：

{"train_converted": {"file_name": "train_converted.json","file_sha1": "自动生成或留空"}
}

转换好后放到data目录下，添加训练集文件train_converted.json

输出地址会被映射到7860端口（类似 http://0.0.0.0:7860），AutoDL 需端口映射：

Vscode连接至远程服务器，复制ssh和密码，将端口映射到本地

6. 启动WebUI界面

# 进入LLaMA-Factory目录
cd /home/LLaMA-Factory-main# 启动WebUI（推荐使用screen或tmux保持会话）
screen -S llama-webui
python src/webui.py# 或者后台运行
nohup python src/webui.py > webui.log 2>&1 &

7. 端口映射与访问

自动跳转到WebUI界面，配置好Qwen-7B-Chat模型后，点击chat配置加载模型进行生成测试

如果后面模型加载不出来，就把Qwen-7B-Chat这个文件拖到LLaMA-Factory-main，模型路径改成Qwen-7B-Chat

访问: http://localhost:7860

8. WebUI配置指南

模型加载配置：

模型路径: /home/Qwen-7B-Chat (或相对路径 ../Qwen-7B-Chat)
模板: qwen
推理后端: hf (HuggingFace Transformers)

训练参数建议（RTX 3090）：

微调方法: LoRA
学习率: 2e-4
批大小: 4
梯度累积: 4
训练轮数: 10-20
LoRA Rank: 64

然后在微调界面查看配置的训练集文件train_converted.json，查看没有问题后进行训练（开启训练时显示）（超参数的配置的这方面我不太记得住可以看 [2] 的相关介绍）
3090 24B 跑50轮大概要半个小时左右，训练好的模型可以在评估界面进行测试，同时也可以选择不同时段的训练模型

训练好的模型文件可以下载到本地，并且通过在OpenWebUI的配置可以实现api接口的输出

9. 训练与评估

开始训练：

在"训练"标签页配置参数
选择数据集: train_converted
点击"开始训练"

监控训练进度：

# 查看训练日志
tail -f saves/Qwen-7B-Chat/lora/trainer_log.jsonl# 查看GPU使用情况
watch -n 1 nvidia-smi

模型测试：

训练完成后在"评估"标签页测试
选择不同checkpoint进行比较
使用"聊天"标签页进行交互测试

10. 模型导出与部署

导出模型：

# 使用LLaMA-Factory CLI导出
llamafactory-cli export \--model_name_or_path /home/Qwen-7B-Chat \--adapter_name_or_path saves/Qwen-7B-Chat/lora \--template qwen \--finetuning_type lora \--export_dir /home/Qwen-7B-Chat-finetuned

创建API服务：

# 简单的FastAPI示例
from fastapi import FastAPI
from transformers import AutoTokenizer, AutoModelForCausalLM
import torchapp = FastAPI()# 加载模型
model_path = "/home/Qwen-7B-Chat-finetuned"
tokenizer = AutoTokenizer.from_pretrained(model_path, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(model_path, trust_remote_code=True).cuda()@app.post("/chat")
async def chat_endpoint(message: str):inputs = tokenizer(message, return_tensors="pt").to("cuda")outputs = model.generate(**inputs, max_new_tokens=100)response = tokenizer.decode(outputs[0], skip_special_tokens=True)return {"response": response}

🔧 常见问题解决

1. 模型加载失败：

# 检查模型路径
ls -la /home/Qwen-7B-Chat/# 确保有这些文件: config.json, model.safetensors, tokenizer.json

2. 内存不足：

减少批大小
使用梯度累积
启用4bit量化: --load_in_4bit

3. 训练速度慢：

启用Flash Attention
使用DeepSpeed优化

4. 端口无法访问：

检查防火墙设置
确认端口映射正确

📊 训练时间预估（RTX 3090）

数据量: 1000条对话
训练轮数: 20轮
预计时间: 30-60分钟
GPU内存占用: 18-22GB

[1] 官方文档数据处理 https://llamafactory.readthedocs.io/zh-cn/latest/getting_started/data_preparation.html
[2] 【DeepSeek+LoRA+FastAPI】开发人员如何微调大模型并暴露接口给后端调用
https://www.bilibili.com/video/BV1R6P7eVEtd/?spm_id_from=333.337.search-card.all.click&vd_source=d5f2b87dc23c8806dfc6d9550f24aaf2
[3] 魔塔社区，沐雪（中文）训练集 Moemuu/Muice-Dataset，https://www.modelscope.cn/datasets/Moemuu/Muice-Dataset/file/view/master/train.jsonl?id=11077&status=1
[4] 魔塔社区，通义千问-7B-Chat，Qwen/Qwen-7B-Chat，https://www.modelscope.cn/models/Qwen/Qwen-7B-Chat