课程简介
彭靖田这套《AI 大模型微调》第 0 期,从资料包的组织方式就能看出它的定位:这不是一门只让你看完点头的课,而是一份可以对着代码和环境反复折腾的工程记录。下面从技术栈、资料结构、可复用模块和自学方式几个角度,说清楚它适合怎么用。 技术栈落点:Transformers 与量化实战 资料里最完整的一条线是「实战 Transformers 模型量化」,配套的课件…
彭靖田这套《AI 大模型微调》第 0 期,从资料包的组织方式就能看出它的定位:这不是一门只让你看完点头的课,而是一份可以对着代码和环境反复折腾的工程记录。下面从技术栈、资料结构、可复用模块和自学方式几个角度,说清楚它适合怎么用。
技术栈落点:Transformers 与量化实战
资料里最完整的一条线是「实战 Transformers 模型量化」,配套的课件、量化论文(GPTQ、AWQ)以及一次 12 月下旬的直播录像,说明这部分内容是当成一个可运行的小项目在推进的。这意味着你会同时接触到三层东西:一是 Hugging Face Transformers 的模型加载、推理与权重处理接口;二是量化方案背后的取舍逻辑,比如 GPTQ 与 AWQ 在权重量化粒度、校准数据依赖、推理加速比上的差异;三是把量化模型真正跑起来时需要面对的显存、精度回退和部署问题。
对做工程的人来说,价值不在于「知道有量化这回事」,而在于能顺着课件和论文去对照实现,搞清楚一个量化 pipeline 里每一步在做什么、参数为什么这么设。这类内容如果只看视频,很容易停在「好像懂了」,但一落到自己的模型上就出问题。
资料结构:代码、论文、课件与直播记录并存
这套资料的组织方式偏「原始工程现场」,而不是打磨过的成品教程。一个典型特征是:代码入口以文本形式给出,指向外部仓库,而不是打包好的一键运行环境;论文原文(GPTQ、AWQ)和课件 PDF 并列存放;直播评论区记录也留了下来。
- 论文和课件放在一起,方便你在读实现细节时回查理论依据,而不是把两者割裂开。
- 代码以仓库地址形式提供,意味着你需要自己拉取、配环境、对齐依赖版本——这恰恰是微调和量化工作里最耗时的部分。
- 直播记录保留了当时的提问和讨论,能反映真实实践中容易卡住的点,比正课更接近「踩坑现场」。
这种结构的优点是可追溯:任何一个结论都能找到对应的论文、课件或代码片段;缺点是它默认你有一定的动手能力,不会手把手带你装环境。所以拿它当参考手册、边做边查,比线性观看更划算。
可复用模块与延伸方向
从主题脉络看,资料指向的是「大模型四阶」这样的进阶框架,量化只是其中一环。对开发者来说,可以拆出几个可复用的部分:模型量化脚本与配置、论文中给出的算法伪代码到工程实现的映射、以及围绕显存与吞吐做权衡的评测思路。把这几块抽出来,套到自己的模型或业务场景上,是比较现实的复用方式。
如果你的方向是推理加速或低成本部署,GPTQ、AWQ 这两篇论文加上配套代码,基本能构成一条独立的学习线;如果你更关心微调本身,那量化部分可以当作部署环节的前置知识来补。
怎么用它自学
建议不要从第一分钟顺着看。先看课件目录,锁定「模型量化」这一块,打开对应论文快速过一遍方法部分,再去拉代码跑通最小示例,最后回头对照直播录像里的讲解和评论区的疑问。每跑通一个环节,就把显存占用、推理延迟、精度变化记下来,形成自己的对照表。
整体而言,这份资料更适合当成一份可执行的工程参考:有代码、有论文、有当时的现场讨论,缺的是包装好的学习路径。愿意自己补环境、啃论文、调参数的人,能从中拿到比「看完一门课」更实在的东西。
极客时间付费彭靖田AI大模型微调第0期
AI大模型微调前沿技术解析
编辑点评
深入浅出解析AI大模型微调技术,实战案例丰富,适合对AI领域感兴趣的初学者和从业者。
⭐ 编辑推荐
跟随彭靖田老师,探索AI大模型微调前沿技术,实战案例解析,提升AI应用能力。
✨ 课程亮点
✦AI大模型微调技术解析
✦实战案例丰富
✦适合AI领域爱好者
课程目录
代码1 条
直播评论1 条
- 20231224评论区记录.xlsx [12.5 KB]
Quantization论文2 条
- GPTQ.pdf [509.6 KB]
- AWQ.pdf [5.3 MB]
课件1 条
- 7-实战Transformers模型量化.pdf [6.4 MB]
视频1 集
直播评论1 条
- 20231203评论区记录.xlsx [17.1 KB]
课件2 条
- 1-AI大模型四阶技术总览-新.pdf [18.9 MB]
- 1-AI大模型四阶技术总览.pdf [20.7 MB]
资料1 条
直播评论1 条
- 20240131评论区记录.xlsx [11.8 KB]
课件1 条
- 16-Meta AI 大模型家族 LLaMA.pdf [8.6 MB]
直播评论1 条
- 20240110评论区记录.xlsx [13.5 KB]
课件1 条
- 11-实战基于LangChain和ChatGLM私有化部署聊天机器人.pdf [10.6 MB]
直播评论1 条
- 20240118评论区记录.xlsx [14.2 KB]
课件1 条
- 12-实战私有数据微调ChatGLM3.pdf [10.0 MB]
代码1 条
代码1 条
- github【公重号:CunWorkNotes】.txt [44.0 B]
直播评论1 条
- 20231220评论区记录.xlsx [15.8 KB]
课件1 条
- 6-实战Transformers模型微调.pdf [4.4 MB]
资料1 条
- Fine-tuning论文【公重号:CunWorkNotes】.exe [15.6 MB]
视频1 集
- 大模型微调技术揭秘-PEFT【优质资源‖关注:cunWorkNotes 解锁】.mp4 [4.6 GB]
直播评论1 条
- 20231206评论区记录.xlsx [14.3 KB]
课件2 条
- 2-大语言模型技术发展与演进.pdf [17.8 MB]
- 3-大模型微调技术揭秘-PEFT.pdf [10.0 MB]
课件1 条
- 开营直播:大语言模型微调的前沿技术与应用【公重号:CunWorkNotes】.pdf [9.9 MB]
直播评论1 条
- 20231129评论区记录.xlsx [16.5 KB]
视频1 集
- 01-大模型微调的前沿技术与应用.mp4 [1.4 GB]
课件1 条
- 13-ChatGPT大模型训练技术RLHF.pdf [6.5 MB]
直播评论1 条
- 20240121评论区记录.xlsx [13.2 KB]
代码1 条
资料1 条
课件1 条
- 14-混合专家模型(MoEs)技术揭秘.pdf [5.4 MB]
直播评论1 条
- 20240124评论区记录.xlsx [11.4 KB]
代码1 条
课件1 条
- 15-大模型分布式训练框架Microsoft DeepSpeed(1).pdf [7.8 MB]
直播评论1 条
- 20240128评论区记录.xlsx [12.7 KB]
资料1 条
资料1 条
代码1 条
直播评论1 条
- 20240103评论区记录.xlsx [10.5 KB]
课件1 条
- 9-实战QLoRA 微调 ChatGLM3-6B.pdf [14.1 MB]
直播评论1 条
- 20231210评论区记录.xlsx [16.0 KB]
资料1 条
- UniPELT A Unified Framework for Parameter-Efficient Language Model Tuning.pdf [444.5 KB]
课件2 条
- 3-大模型微调技术揭秘.pdf [16.2 MB]
- 4-大模型微调技术揭秘-LoRA.pdf [7.5 MB]
视频1 集
- 大模型低秩适配(LoRA)技术.mp4 [4.3 GB]
课件1 条
- 10-快速入门 LangChain 大模型应用开发框架【整理不易‖记得关注:CunWorKNotes】.pdf [9.7 MB]
大厂案例PPT18 集
- DDD 在京东物流的落地效果【整理不易‖记得关注:CunWorKNotes】.pdf [966.0 KB]
- 阿里工程效能微创新.pdf [2.1 MB]
- 研发效能建设的“灵魂拷问”与落地实践.pdf [1.3 MB]
- 腾讯万亿级 Elasticsearch 架构实践.pdf [1.3 MB]
- 百度文心 (ERNIE) 语义理解技术详解.pdf [1.4 MB]
- Go 并发数据结构和算法实践.pdf [662.1 KB]
- Go 语言基础原理深度解析.pdf [479.8 KB]
- 推荐系统特征交互建模:浅层模型、深度模型与 AutoML.pdf [2.5 MB]
- 技术管理路上的那些事儿.pdf [1.2 MB]
- 构建批流一体化 AI 数据平台的深度探索.pdf [1.0 MB]
- 如何建设一支能打硬仗的技术团队.pdf [173.9 KB]
- 大疆 Kubernetes 探索与实践之路.pdf [1.9 MB]
- 微保 Service Mesh 研发实践中的取舍-龙武_compressed.pdf [598.7 KB]
- 快手 AI 生成式技术实践.pdf [629.0 KB]
- 类秒杀场景下的瞬时大流量高并发实践.pdf [526.4 KB]
- 360 大数据平台定制开发之道.pdf [811.7 KB]
- RAG、微调、预训练,如何选择适合的大模型优化方式?.mp4 [1.1 GB]
- 10.19直播答疑部分.mp4 [555.4 MB]
资料1 条
- 论文【优质资源‖关注:cunWorkNotes 解锁】.exe [10.1 MB]
课件1 条
- 2-大语言模型技术发展与演进.pdf [17.8 MB]
直播评论1 条
- 20231203评论区记录.xlsx [17.1 KB]
直播评论1 条
- 20231227评论区记录.xlsx [12.8 KB]
代码1 条
课件1 条
- 8-大模型高效微调工具HF PEFT.pdf [2.8 MB]
课件1 条
- 5-大模型开发工具库 HF Transformers.pdf [4.4 MB]
视频2 集
- 大模型开发工具.mp4 [3.1 GB]
- 课程大纲.jpg [1.4 MB]
🎯 学习收获
- 掌握AI大模型微调技术
- 提升AI应用能力
- 了解AI领域前沿动态