最新贪心科技-大模型微调实战营-应用篇

这门课解决什么问题

开发者在实际工程中常面临开源大模型的落地困境：模型虽好，但算力资源有限，且通用模型难以直接匹配垂直业务场景。这门课聚焦大模型微调的工程实战，旨在解决从模型量化压缩、高效训练加速、分布式算力调度到参数高效微调、最终完成专属模型部署的全链路落地问题，让开发者不再只停留在调用API的阶段，而是真正掌握将通用模型改造为业务专属模型的工程能力。

适合什么基础

适合具备Python编程基础、熟悉Linux系统操作，且对Transformer架构有初步了解的开发者。课程内容从底层原理到上层应用层层递进，要求学习者能独立运行基础脚本并理解模型参数含义，而非依赖现成封装好的接口。

建议先看哪几块

建议按技术栈演进顺序阅读。先理解Transformer与Encoder架构（基础），再掌握Flash Attention等高效训练机制（提速），接着学习分布式计算与LLaMA量化部署（落地），最后深入LoRA微调与策略优化（定制）。整体遵循“原理→加速→部署→定制”的工程实践路径。

学完能独立做什么

能够独立完成大模型的量化压缩与推理部署；熟练编写LoRA微调脚本，将通用模型适配到垂直领域；在有限算力下实现高效分布式微调；根据业务需求调整训练策略与评估指标，完成从数据到上线模型的全流程。

资料怎么配合练习

配套源码与工程脚本，建议边看课件边动手跑通量化与部署脚本，在LoRA微调环节直接修改数据集与配置，对照代码完成端到端的微调实验。资料包线索中包含模型架构、训练加速、量化部署与微调策略等模块，可按需检索对应章节进行复现与二次开发。

📁 贪心科技-大模型微调实战营-应用篇 📁 01 第一周 📁 课件资料 📁 08 第八周 📁 02 第二周 📁 10 第十周 📁 03 第三周 📁 07 第七周 📁 04 第四周 📁 05 第五周 📁 09 第九周 📁 06 第六周A 📁 01 大模型微调概览 Lora微调 📁 01 Flash Attention cont、微调Mistral 7B 📁 01 Transformer、Encoder、Advanced 📁 01 Distributed Computing、Flash Attention 📁 01 llama介绍&运行&量化&部署&微调 📁 01 Optimal Policy、Intro to Monte Carlo 📄 03 大模型是如何炼成的.mp4 📄 01 开营.mp4 📄 04 Transformer的应用.mp4 📄 02 大模型爆发式发展.mp4 📄 05 Self-Attention.mp4 📁 01 Prefix Tuning、Quantization 📄 02 Lora微调-Lora算法.mp4 📄 03 Lora微调-从零实现Lora到Roberta.mp4 📄 01 大模型微调概览.mp4 📄 01 Alpaca.mp4 📄 02 AdaLoRA.mp4 📄 03 QLoRA.mp4 📁 01 强化学习 📄 04 Advanced Topics.mp4 📄 03 Encoder-based and Decoder Based LLMs.mp4 📄 01 Transformer Part1.mp4 📄 02 Transformer Part2.mp4 📄 01 llama介绍&运行&量化&部署&微调01.mp4 📄 02 llama介绍&运行&量化&部署&微调02.mp4 📄 04 Flash Attention.mp4 📄 03 ZeRO-123 and FSDP.mp4 📄 01 GPU时间计算.mp4 📄 02 Distributed Computing.mp4 📄 04 Mixture of Expert Model.mp4 📄 02 Self-Attention的分块计算.mp4 📄 01 Flash Attention cont.mp4 📄 05 微调Mistral 7B.mp4 📄 03 分块模式中计算O.mp4 📄 03 Quantization02.mp4 📄 01 Prefix Tuning.mp4 📄 04 Quantization Methos for LLM.mp4 📄 02 Quantization01.mp4 📄 01 Optimal Policy.mp4 📄 02 Intro to Monte Carlo.mp4 📄 04 The goal of Agent.mp4 📄 02 强化学习.mp4 📄 01 RLHF介绍.mp4 📄 03 Multi-armed Bandit.mp4