极客时间-彭靖田-AI大模型微调训练营第5期

这门训练营围绕一个很具体的工程问题展开：把开源大模型（如 ChatGLM-6B）在自己的硬件上跑起来、调得动、训得下去。第 5 期的内容重心落在微调的落地环节——量化、RLHF、以及国产算力平台上的实际部署。如果你已经能跑通推理、但对"显存不够、训练不稳、换到国产卡就报错"这些事没有系统解法，这套材料的价值主要在于可对照的实操结构。

技术栈与覆盖范围

从资料线索看，量化部分占了相当大的比重，而且不是停留在概念层面：显存占用如何计算、权重量化与激活量化的区别、AWQ（激活感知权重量化）这类具体算法的实现思路都有独立章节。配套的 Quantization 论文资料说明讲师是按"论文—算法—代码"的顺序推进的，适合想搞清楚量化背后取舍而不是只调库参数的开发者。

RLHF 部分与量化并列，构成微调的两个主要方向：一个解决"跑得动"的资源问题，一个解决"训得对"的对齐问题。国产化实战则把落点放在华为 Ascend 910 上微调 ChatGLM-6B，这条线涉及昇腾的算子支持、框架适配和显存管理，和 NVIDIA 生态下的常见做法差别不小，属于容易被忽略但工程上绕不开的环节。

项目结构怎么用

材料按章节组织，量化、RLHF、国产化各自成块，每块内部是"章节介绍 + 技术讲解 + 作业"的节奏。建议不要顺着视频往下刷，而是按依赖关系重组：先确认自己机器上的显存预算，算出模型加载和训练的占用上限，再决定采用哪种量化方案；然后在量化后的模型上跑通一次微调，最后才迁移到 Ascend 环境验证。

作业文件是这套材料里最容易被跳过、实际最有用的部分。它通常给出一个可验证的目标（比如把某个模型压到指定显存、或在指定卡上完成一次完整训练），比视频更适合作为自查标准。课件里的量化技术文档可以当作查阅手册，遇到具体算法细节时再回看，不必逐页通读。

可复用的模块

• 显存估算逻辑：参数、梯度、优化器状态、激活值各占多少，这套口径可以套用到其他模型上，换模型时只需替换参数量和精度假设。
• 量化算法的替换接口：AWQ 等算法的实现如果被封装成可切换的模块，就能在自己的推理或训练管线里按需替换，而不是绑定某一个脚本。
• Ascend 适配层：从 CUDA 迁到昇腾时的设备管理、算子替换、混合精度设置，这部分经验可以直接复用到其他国产卡的项目里。
• 微调训练循环：数据加载、梯度累积、检查点保存的骨架，脱离课程数据也能继续用。

自学路径建议

如果量化是薄弱环节，先补显存计算和数值格式（FP16/INT8/INT4）的基础，再看 AWQ 这类算法，不然容易只记住结论不理解为什么这样切分权重。RLHF 建议放在量化之后，因为它对训练稳定性和显存的要求更高，资源没理顺时调试成本会很高。国产化部分留到最后，但不要跳过——昇腾环境的坑往往不是算法问题，而是环境与算子问题，提前在低资源模型上试一遍可以省很多时间。

整体上，这套资料更适合"边做边查"：视频用于建立概念框架，课件用于查算法细节，作业用于验证是否真的跑通。把它当成一个可反复对照的工程参考，比当成一次看完的课程更贴合它的组织方式。