LLaMA-Factory：一键微调 100+ 大模型的统一框架

LLaMA-Factory：微调百模，一行命令足矣

微调大模型长期卡在环境配置、代码兼容、数据集适配这三件事上。LLaMA-Factory 把这一切抽象成一个统一框架，你只需准备好模型名称、数据集路径和训练参数，剩下的它全包。它不是又一个实验性玩具，而是一套经过社区验证、每天被数百个生产环境反复使用的工具链。

项目背景

作者 hiyouga 是北京航空航天大学博士生，长期研究大模型高效微调。业内痛点很明显：HuggingFace Transformers 的 Trainer 虽然强大，但配置复杂，且不支持 LoRA 系列方法的内置调度；各种第三方微调仓库（如 Alpaca-LoRA）只能针对单一模型，换个架构就要重写流程。LLaMA-Factory 诞生于 2023 年底，旨在用一个统一入口覆盖 100+ 模型架构（LLaMA、Mistral、Qwen、ChatGLM 等）和 5+ 微调方法（全量、LoRA、QLoRA、Adapter、Prefix Tuning），同时标准化数据格式，让你不必为每种模型分别处理数据。

核心功能解析

统一训练入口，参数化配置

无论你用的是 LLaMA 还是 Qwen，训练脚本完全相同，只需通过 --model_name_or_path 指定模型，框架自动识别架构并初始化相应组件。参数覆盖的策略比 Transformers Trainer 更严格：例如 --lora_target 会基于模型自动填充合理默认值（LLaMA 默认 q_proj, v_proj）。数据格式也强制统一为 JSON 式的 QA 对或 preference 对，大幅降低踩坑概率。

# 单卡 LoRA 微调 LLaMA-3-8B
CUDA_VISIBLE_DEVICES=0 python src/train_bash.py 
    --stage sft 
    --model_name_or_path meta-llama/Meta-Llama-3-8B 
    --dataset alpaca_gpt4_en 
    --finetuning_type lora 
    --lora_rank 8 
    --output_dir checkpoints/llama3-lora 
    --per_device_train_batch_size 4 
    --learning_rate 5e-4

多模态与 RLHF 的单一管线

大多数框架将 SFT、DPO、PPO 拆成独立脚本，导致维护多套数据加载和模型初始化代码。LLaMA-Factory 使用 --stage 参数统一管理：sft、rm（奖励模型）、ppo、dpo。甚至支持 VL LLaMA（多模态），只需在模型路径后追加 --visual_inputs 即可加载视觉编码器。训练管线内部自动切换 loss 函数和梯度策略，这对新手调试极友好。

# DPO 训练
CUDA_VISIBLE_DEVICES=0,1 python src/train_bash.py 
    --stage dpo 
    --model_name_or_path path/to/base-model 
    --dataset preference_dataset 
    --finetuning_type lora 
    --do_train 
    --pref_beta 0.1

极致的内存优化与速度

框架深度集成了 FlashAttention-2、bitsandbytes 4/8 bit 量化、梯度 checkpointing。更关键的是 unsloth 可选的底层优化器——它通过修改 Triton 内核在不影响精度前提下将 LoRA 训练速度提升约 2x，显存降低 40%。社区实测在 RTX 4090 上 4-bit QLoRA 训练 LLaMA-3-70B 可行（需要两卡），这是其他库很难做到的。

快速上手

# 安装（推荐使用 uv 或 pip）
pip install llm-factory  # 或 git clone 后 pip install -e .

# 启动 Web 界面（无需写代码）
llm factory web --port 7860

# 或者直接命令行训练
python src/train_bash.py --help   # 查看所有参数

技术亮点

LLaMA-Factory 的 模型注册表设计值得关注。它没有硬编码每个模型类的导入，而是通过 model_cache 动态加载。当你传入 --model_name_or_path，框架会先尝试从本地 HuggingFace cache 读取 config.json，解析 model_type，然后实例化对应的预定义适配器。这个适配器只负责“找对”参数名映射（比如 LLaMA 的 attention 模块叫什么），不修改训练逻辑。这意味着添加一个新模型只要写一个不超过 50 行的 yaml 配置块，社区因此迅速覆盖了 100+ 模型。

另一个设计决策是 数据预处理与训练解耦。所有数据集在训练前被转换为统一的 PrefixDataset 格式（包含 input_ids、labels、attention_mask 三字段），支持流式缓存。你甚至能同时混用多来源数据（如知乎问答+Alpaca+自定义），框架会自动分配采样权重。这种设计比 Transformers datasets 的 map 方案更高效，因为重复数据无需二次预处理。

值得注意：LLaMA-Factory 对 deepspeed 的支持是“按需集成”，而非默认启用。它默认使用 Accelerate + FSDP，只有当用户显式传入 --deepspeed 时才加载 DeepSpeed 引擎。这样做既保持了配置的幂等性，又避免了两者底层调度冲突。

同类对比

简评：如果只看功能和覆盖度，LLaMA-Factory 是目前最全的开源微调框架。Axolotl 支持情感对齐但缺少 DPO；PEFT 过于底层；Unsloth 专注速度但模型太少。LLaMA-Factory 在“通用性”和“零编码”上做到了平衡。

总结

一句话：LLaMA-Factory 是当前微调大模型最省心的瑞士军刀——覆盖模型最多、训练方法最全、上手成本最低。

适合谁用：
- 个人开发者：快速实验微调效果，无需折腾环境。
- 团队落地：规范化数据格式，加速模型迭代。
- 研究者：比较不同 LoRA 变体、量化策略的基线。

不适合谁：
- 需要深度定制训练循环（自定义 loss、GPU 内存手动管理）的底层研究者，请移步 Transformers Trainer。
- 仅需推理部署的用户，LLaMA-Factory 不提供推理服务（只导出模型）。