mksz-1003 AI大模型微调，从原理剖析到企业级落地实战

课程简介

先讲清楚：这门课解决什么问题大模型普及后，企业普遍面临两个核心矛盾：通用模型不懂行业黑话，私有数据又不敢直接上传公有云。微调（Fine-tuning）正是为了解决“如何让模型懂业务”和“如何低成本定制专属能力”而存在的。这门课聚焦于 AI 大模型微调的全链路实战，从底层原理剖析到企业级落地，填补了“只会调 API”与“真正掌握模型定制”之间的能力缺口。它…

已有 0 人浏览发布 2026-10-17 更新 2026-10-18

先讲清楚：这门课解决什么问题

大模型普及后，企业普遍面临两个核心矛盾：通用模型不懂行业黑话，私有数据又不敢直接上传公有云。微调（Fine-tuning）正是为了解决“如何让模型懂业务”和“如何低成本定制专属能力”而存在的。这门课聚焦于 AI 大模型微调的全链路实战，从底层原理剖析到企业级落地，填补了“只会调 API”与“真正掌握模型定制”之间的能力缺口。它不教虚的理论，而是针对 RAG（检索增强生成）成本高、通用模型幻觉多、垂直场景适配难等实际痛点，提供一套可复用的微调解决方案。课程强调工程化思维，避免陷入纯算法理论的泥潭，确保学员能将技术转化为实际生产力。

适合谁学？建议先看哪几块

**适合基础**：具备 Python 编程能力，了解机器学习基本概念（如损失函数、过拟合），熟悉 Hugging Face 生态或至少用过 transformers 库调用模型者优先。如果你是纯算法研究员，这里偏工程落地；如果你是开发想转 AI 应用，这里是最佳衔接点。对于零基础用户，建议先补充线性代数和深度学习基础，再进入本课程。

**建议学习路径**：
1. **原理篇**：重点理解 SFT（监督微调）、LoRA/QLoRA 低秩适配技术、PEFT 参数高效微调原理。这是后续实操的基石，跳过会难以排查训练异常。
2. **数据篇**：关注数据构建、清洗、格式化（如 Alpaca 格式、ChatML）。微调效果差，80% 原因在数据质量，而非模型架构。此阶段需耐心打磨数据标注规范。
3. **训练与部署篇**：学习 DeepSpeed 分布式训练优化、推理加速（vLLM/TGI）及模型量化。这是“企业级落地”的关键，确保微调后的模型能稳定跑在生产环境，而非仅停留在实验阶段。

学完能独立做什么？资料怎么配合练习

学完后，你将能独立承担以下工作：
- 根据企业文档、客服记录或代码库，构建高质量的微调数据集，并制定数据评估标准；
- 使用 LoRA/QLoRA 技术，在消费级显卡上完成垂直领域模型的定制训练，理解显存优化技巧；
- 将微调后的模型部署为本地服务，并通过 API 对接业务系统，处理并发与延迟问题；
- 评估微调效果，区分何时该用微调、何时该用 RAG，避免过度工程化，做出合理的技术选型。

**资料配合建议**：课程配套资料包含示例数据集、训练脚本模板和评测代码。请勿直接复制脚本跑通即止，务必亲手修改数据列名、调整超参数（如 learning rate、epochs），观察 loss 曲线变化，并对比微调前后对特定问题的回答差异。实践环节是掌握微调的核心，建议在本地或云端 GPU 环境复现每个案例，记录报错与解决方案，形成自己的调试笔记。只有经历过调参的痛苦，才能真正理解模型行为背后的逻辑。

mksz-1003 AI大模型微调，从原理剖析到企业级落地实战

课程目录

01~05/
1-1 课程介绍_江湖人家a.jhrhome.com.mp4
1-10 高效微调原理之预训练之3D并行_江湖人家a.jhrhome.com.mp4
1-11 高效微调原理之微调步骤_江湖人家a.jhrhome.com.mp4
1-12 高效微调原理之LoRA原理_江湖人家a.jhrhome.com.mp4
1-2 高效微调原理之什么场景需要微调？_江湖人家a.jhrhome.com.mp4
1-3 高效微调原理之什么场景需要RAG？_江湖人家a.jhrhome.com.mp4
1-4 高效微调原理之微调和全量微调的区别_江湖人家a.jhrhome.com.mp4
1-5 高效微调原理之预训练的流程_江湖人家a.jhrhome.com.mp4
1-6 高效微调原理之预训练的两个挑战_江湖人家a.jhrhome.com.mp4
1-7 高效微调原理之预训练之网络通信_江湖人家a.jhrhome.com.mp4
1-8 高效微调原理之预训练之数据并行_江湖人家a.jhrhome.com.mp4
1-9 高效微调原理之预训练之模型并行_江湖人家a.jhrhome.com.mp4
2-1 强化学习微调之什么是强化学习？_江湖人家a.jhrhome.com.mp4
2-2 强化学习微调之什么是PPO？_江湖人家a.jhrhome.com.mp4
2-3 强化学习微调之什么是RLHF？_江湖人家a.jhrhome.com.mp4
2-4 强化学习微调之什么是DPO？_江湖人家a.jhrhome.com.mp4
2-5 强化学习微调之什么是GRPO？_江湖人家a.jhrhome.com.mp4
3-1 大模型微调数据的重要性_江湖人家a.jhrhome.com.mp4
3-10 大模型微调数据集构建实操-构建SFT数据集_江湖人家a.jhrhome.com.mp4
3-11 大模型微调数据集构建实操-构建偏好数据集_江湖人家a.jhrhome.com.mp4
3-2 大模型微调数据格式划分_江湖人家a.jhrhome.com.mp4
3-3 大模型微调预训练数据集_江湖人家a.jhrhome.com.mp4
3-4 大模型微调SFT数据集_江湖人家a.jhrhome.com.mp4
3-5 大模型微调偏好数据集_江湖人家a.jhrhome.com.mp4
3-6 大模型微调COT数据集_江湖人家a.jhrhome.com.mp4
3-7 大模型微调数据集生成实战_江湖人家a.jhrhome.com.mp4
3-8 大模型微调数据集工具部署_江湖人家a.jhrhome.com.mp4
3-9 大模型微调数据集构建实操-构建COT数据集_江湖人家a.jhrhome.com.mp4
4-1 Llama-Factory微调之项目介绍_江湖人家a.jhrhome.com.mp4
4-10 Text2SQL模型微调之数据处理_江湖人家a.jhrhome.com.mp4
4-11 Text2SQL模型微调之数据集注册_江湖人家a.jhrhome.com.mp4
4-12 Text2SQL模型微调之微调实战_江湖人家a.jhrhome.com.mp4
4-13 Text2SQL模型微调之模型效果校验_江湖人家a.jhrhome.com.mp4
4-14 Text2SQL模型微调之什么是DeepSpeed？_江湖人家a.jhrhome.com.mp4
4-15 Text2SQL模型微调之基于DeepSpeed实战_江湖人家a.jhrhome.com.mp4
4-2 Llama-Factory微调之项目安装_江湖人家a.jhrhome.com.mp4
4-3 Llama-Factory微调之模型和数据准备_江湖人家a.jhrhome.com.mp4
4-4 Llama-Factory微调之LoRa微调实战_江湖人家a.jhrhome.com.mp4
4-5 Llama-Factory微调之模型效果验证_江湖人家a.jhrhome.com.mp4
4-6 Llama-Factory微调之核心参数剖析_江湖人家a.jhrhome.com.mp4
4-7 Llama-Factory微调之接入Tensorboard监控_江湖人家a.jhrhome.com.mp4
4-8 Text2SQL模型微调之数据集格式说明_江湖人家a.jhrhome.com.mp4
4-9 Text2SQL模型微调之数据集准备_江湖人家a.jhrhome.com.mp4
5-1 Embedding模型微调之RAG痛点分析_江湖人家a.jhrhome.com.mp4
5-10 Embedding模型微调之微调流程演示_江湖人家a.jhrhome.com.mp4
5-11 Embedding模型微调之微调数据准备核心逻辑_江湖人家a.jhrhome.com.mp4
5-12 Embedding模型微调之微调核心代码_江湖人家a.jhrhome.com.mp4
5-13 Embedding模型微调之微调效果检验_江湖人家a.jhrhome.com.mp4
5-2 Embedding模型微调之适用场景剖析_江湖人家a.jhrhome.com.mp4
5-3 Embedding模型微调之基础模型选型_江湖人家a.jhrhome.com.mp4
5-4 Embedding模型微调之数据集准备_江湖人家a.jhrhome.com.mp4
5-5 Embedding模型微调之技术方案选型_江湖人家a.jhrhome.com.mp4
5-6 Embedding模型微调之环境准备_江湖人家a.jhrhome.com.mp4
5-7 Embedding模型微调之基础模型校验_江湖人家a.jhrhome.com.mp4
5-8 Embedding模型微调之数据集校验_江湖人家a.jhrhome.com.mp4
5-9 Embedding模型微调之数据集清洗_江湖人家a.jhrhome.com.mp4
06~09/
06/
6-1 模型蒸馏之蒸馏和微调的本质区别_江湖人家a.jhrhome.com.mp4
6-10 模型蒸馏之蒸馏数据格式说明_江湖人家a.jhrhome.com.mp4
6-11 模型蒸馏之基础模型效果测试_江湖人家a.jhrhome.com.mp4
6-12 模型蒸馏之蒸馏数据集准备_江湖人家a.jhrhome.com.mp4
6-13 模型蒸馏之基于Llama-Factory进行全量微调_江湖人家a.jhrhome.com.mp4
6-14 模型蒸馏之模型蒸馏前后效果对比_江湖人家a.jhrhome.com.mp4
6-2 模型蒸馏之微调和全量微调的本质区别_江湖人家a.jhrhome.com.mp4
6-3 模型蒸馏之为什么蒸馏方案突然火了起来？_江湖人家a.jhrhome.com.mp4
6-4 模型蒸馏之模型推理能力的重要性_江湖人家a.jhrhome.com.mp4
6-5 模型蒸馏之蒸馏流程剖析_江湖人家a.jhrhome.com.mp4
6-6 模型蒸馏之全量微调工具推荐_江湖人家a.jhrhome.com.mp4
6-7 模型蒸馏之资源评估和服务器租赁_江湖人家a.jhrhome.com.mp4
6-8 模型蒸馏之基础模型下载_江湖人家a.jhrhome.com.mp4
6-9 模型蒸馏之全量微调工具安装部署_江湖人家a.jhrhome.com.mp4
07/
7-1 整体项目之项目背景_江湖人家a.jhrhome.com.mp4
7-10 SFT 微调之数据集构建 - 单轮数据集构建_江湖人家a.jhrhome.com.mp4
7-11 SFT 微调之数据集构建 - 多轮数据集构建_江湖人家a.jhrhome.com.mp4
7-12 SFT 微调之 LoRa 微调 - 微调技术方案选型_江湖人家a.jhrhome.com.mp4
7-13 SFT微调之LoRa微调-微调技术方案设计思考_江湖人家a.jhrhome.com.mp4
7-14 SFT微调之LoRa微调-微调环境构建_江湖人家a.jhrhome.com.mp4
7-15 SFT微调之LoRa微调-微调基座模型下载_江湖人家a.jhrhome.com.mp4
7-16 SFT微调之LoRa微调-数据样本初始化_江湖人家a.jhrhome.com.mp4
7-17 SFT微调之LoRa微调-数据处理_江湖人家a.jhrhome.com.mp4
7-18 SFT微调之LoRa微调-LoRA参数配置_江湖人家a.jhrhome.com.mp4
7-19 SFT微调之LoRa微调-SFT微调参数配置_江湖人家a.jhrhome.com.mp4
7-2 整体项目之项目需求_江湖人家a.jhrhome.com.mp4
7-20 SFT微调之LoRa微调-创建数据整理器_江湖人家a.jhrhome.com.mp4
7-21 SFT微调之LoRa微调-基础模型加载_江湖人家a.jhrhome.com.mp4
7-22 SFT微调之LoRa微调-模型评估内存优化回调函数_江湖人家a.jhrhome.com.mp4
7-23 SFT微调之LoRa微调-最佳模型保存函数_江湖人家a.jhrhome.com.mp4
7-24 SFT微调之LoRa微调-最后模型保存函数_江湖人家a.jhrhome.com.mp4
7-25 SFT微调之LoRa微调-模型微调的早停机制_江湖人家a.jhrhome.com.mp4
7-26 SFT微调之LoRa微调-微调的checkpoints机制设置_江湖人家a.jhrhome.com.mp4
7-27 SFT微调之LoRa微调-DeepSeed分布式参数配置_江湖人家a.jhrhome.com.mp4
7-28 SFT微调之LoRa微调-TensorBoard可视化监控_江湖人家a.jhrhome.com.mp4
7-29 SFT微调之LoRa微调-核心监控指标之train_loss分析_江湖人家a.jhrhome.com.mp4
7-3 整体项目之技术方案_江湖人家a.jhrhome.com.mp4
7-30 SFT微调之LoRa微调-核心监控指标之eval_loss分析_江湖人家a.jhrhome.com.mp4
7-31 SFT微调之LoRa微调-核心监控指标之learning_rate分析_江湖人家a.jhrhome.com.mp4
7-32 SFT微调之LoRa微调-核心监控指标之grad_norm分析_江湖人家a.jhrhome.com.mp4
7-33 SFT微调之LoRa微调-多轮对话微调数据处理_江湖人家a.jhrhome.com.mp4
7-34 SFT微调之LoRa微调-微调效果评估之ROUGE指标_江湖人家a.jhrhome.com.mp4
7-35 SFT微调之LoRa微调-微调效果评估之Perplexity指标_江湖人家a.jhrhome.com.mp4
7-36 SFT微调之LoRa微调-微调效果评估之评估效果说明_江湖人家a.jhrhome.com.mp4
7-37 SFT微调之LoRa微调-微调效果评估之SFT模型部署_江湖人家a.jhrhome.com.mp4
7-4 SFT 微调之微调技术流程_江湖人家a.jhrhome.com.mp4
7-5 SFT 微调之数据集选择_江湖人家a.jhrhome.com.mp4
7-6 SFT 微调之模型选型_江湖人家a.jhrhome.com.mp4
7-7 SFT 微调之微调方案选型_江湖人家a.jhrhome.com.mp4
7-8 SFT 微调之数据集构建 - 数据集解析_江湖人家a.jhrhome.com.mp4
7-9 SFT 微调之数据集构建 - 数据构建策略_江湖人家a.jhrhome.com.mp4
08/
8-1 奖励模型之需求背景分_江湖人家a.jhrhome.com.mp4
8-10 奖励模型之奖励模型选型_江湖人家a.jhrhome.com.mp4
8-11 奖励模型之微调方案技术选型_江湖人家a.jhrhome.com.mp4
8-12 多机多卡环境之方案设计_江湖人家a.jhrhome.com.mp4
8-13 多机多卡环境之分布式推理部署方案设计_江湖人家a.jhrhome.com.mp4
8-14 多机多卡环境之主机规划_江湖人家a.jhrhome.com.mp4
8-15 多机多卡环境之多机免密_江湖人家a.jhrhome.com.mp4
8-16 多机多卡环境之conda环境安装_江湖人家a.jhrhome.com.mp4
8-17 多机多卡环境之开源模型下载_江湖人家a.jhrhome.com.mp4
8-18 多机多卡环境之同步虚拟环境_江湖人家a.jhrhome.com.mp4
8-19 多机多卡环境之创建共享目录_江湖人家a.jhrhome.com.mp4
8-2 奖励模型之为什么选GRPO？_江湖人家a.jhrhome.com.mp4
8-20 多机多卡环境之pdsh工具安装_江湖人家a.jhrhome.com.mp4
8-21 多机多卡环境之设置hosts地址_江湖人家a.jhrhome.com.mp4
8-22 多机多卡环境之Ray集群启动_江湖人家a.jhrhome.com.mp4
8-23 多机多卡环境之模型分布式推理测试_江湖人家a.jhrhome.com.mp4
8-24 多机多卡环境之分布式微调环境构建_江湖人家a.jhrhome.com.mp4
8-25 奖励模型之项目脚本设计_江湖人家a.jhrhome.com.mp4
8-26 奖励模型之奖励模型微调思路_江湖人家a.jhrhome.com.mp4
8-27 奖励模型之全流程代码设计_江湖人家a.jhrhome.com.mp4
8-28 奖励模型之开源奖励模型安装部署_江湖人家a.jhrhome.com.mp4
8-29 奖励模型之多机多卡分布式微调演练_江湖人家a.jhrhome.com.mp4
8-3 奖励模型之为什么GRPO必须微调奖励模型？_江湖人家a.jhrhome.com.mp4
8-30 奖励模型之分布式环境启动_江湖人家a.jhrhome.com.mp4
8-31 奖励模型之效果校验脚本开发_江湖人家a.jhrhome.com.mp4
8-32 奖励模型之微调效果校验_江湖人家a.jhrhome.com.mp4
8-4 奖励模型之整体流程设计_江湖人家a.jhrhome.com.mp4
8-5 奖励模型之微调数据集构建方案思考_江湖人家a.jhrhome.com.mp4
8-6 奖励模型之微调数据集构建策略_江湖人家a.jhrhome.com.mp4
8-7 奖励模型之微调数据集构建脚本执行_江湖人家a.jhrhome.com.mp4
8-8 奖励模型之奖励模型训练路径分析_江湖人家a.jhrhome.com.mp4
8-9 奖励模型之基于RewardBench排行榜选型_江湖人家a.jhrhome.com.mp4
09/
9-1 强化学习之为什么需要GRPO？_江湖人家a.jhrhome.com.mp4
9-2 强化学习之GRPO落地的方案选型_江湖人家a.jhrhome.com.mp4
9-3 强化学习之GRPO数据准备_江湖人家a.jhrhome.com.mp4
9-4 强化学习之GRPO环境准备_江湖人家a.jhrhome.com.mp4
9-5 强化学习之GRPO代码设计_江湖人家a.jhrhome.com.mp4
9-6 强化学习之GRPO流程演示_江湖人家a.jhrhome.com.mp4
9-7 项目总结_江湖人家a.jhrhome.com.mp4
资料/
1DeepSeek专题之蒸馏专属...pdf.html
peft-lesson-master.zip
大模型高效微调原理剖析.pdf.html
微调基础之强化学习微调.pdf.html
微调基础之微调数据工程.pdf.html
微调实战之微调Embeddin...pdf.html