极客时间-彭靖田-AI大模型微调训练营第5期

编辑点评

聚焦AI大模型微调技术，涵盖量化、RLHF、国产化实战等多方面内容，适合对AI领域感兴趣的深度学习爱好者。

⭐ 编辑推荐

跟随彭靖田老师，探索AI大模型微调的奥秘，掌握模型量化、RLHF技术，实战华为Ascend 910微调ChatGLM-6B。

✨ 课程亮点

课程目录

📁 第8章
📁 课件
Quantization论文.zip [5.6 MB]
8-大模型量化技术入门与实战.pdf [6.1 MB]
2. 模型显存占用与量化技术简介_ev.mp4 [34.9 MB]
7.作业.txt [474.0 B]
1. 绔犺妭浠嬬粛_ev.mp4 [2.6 MB]
4. AWQ：激活感知权重量化算法_ev.mp4 [52.9 MB]
6. 实战 Facebook OPT 模型量化_ev.mp4 [80.8 MB]
3. GPTQ：专为 GPT 设计的模型量化算法_ev.mp4 [75.0 MB]
5. BitsAndBytes(BnB) ：模型量化软件包_ev.mp4 [15.9 MB]
📁 第11章
📁 课件
RLHF论文.zip [6.1 MB]
11-ChatGPT大模型训练技术RLHF.pdf [6.9 MB]
3. 基于人类反馈的强化学习（RLHF）技术详解_ev.mp4 [91.4 MB]
4. 基于 AI 反馈的强化学习（RLAIF）技术_ev.mp4 [18.9 MB]
2. ChatGPT 大模型训练核心技术_ev.mp4 [93.6 MB]
1. 绔犺妭浠嬬粛_ev.mp4 [13.0 MB]
📁 第16章
📁 课件
16-国产化实战：基于华为 Ascend 910 微调 ChatGLM-6B.pdf [8.7 MB]
1. 绔犺妭浠嬬粛_ev.mp4 [5.9 MB]
3. 厚积薄发的江湖大佬：Google_ev.mp4 [19.6 MB]
2. 蓝色星球的算力霸主：NVIDIA_ev.mp4 [138.1 MB]
5. 华为昇腾全栈 AI 软硬件平台介绍_ev.mp4 [21.8 MB]
4. 努力追赶的国产新秀：华为_ev.mp4 [17.6 MB]
6. 实战：华为 Ascend 910B 微调 ChatGLM 6B 模型_ev.mp4 [57.3 MB]
📁 第13章
📁 课件
13-Meta AI 大模型 LLaMA.pdf [8.8 MB]
LLaMA论文.zip [15.3 MB]
3. LLaMA 1 衍生模型大家族_ev.mp4 [90.6 MB]
5. 申请和获取 LLaMA 2 模型预训练权重_ev.mp4 [12.8 MB]
2. LLaMA 1 大模型技术解读_ev.mp4 [112.5 MB]
4. LLaMA 2 大模型技术解读_ev.mp4 [28.9 MB]
1. 绔犺妭浠嬬粛_ev.mp4 [6.0 MB]
📁 第14章
📁 课件
14-实战LLaMA2-7B指令微调.pdf [3.6 MB]
3. LLaMA2-7B 指令微调上手实战_ev.mp4 [85.8 MB]
2. 大模型训练技术总结_ev.mp4 [128.1 MB]
4. 再谈中文指令微调方法_ev.mp4 [19.5 MB]
1. 绔犺妭浠嬬粛_ev.mp4 [11.4 MB]
📁 第15章
📁 课件
15-大模型分布式训练框架Microsoft DeepSpeed.pdf [8.1 MB]
5. 分布式模型训练并行化技术对比_ev.mp4 [17.3 MB]
10. 实战 DeepSpeed ZeRO-2 和 ZeRO-3 单机单卡训练_ev.mp4 [45.3 MB]
8. DeepSpeed ZeRO 配置详解_ev.mp4 [52.7 MB]
11. DeepSpeed 创新模块 Inference Compression Science_ev.mp4 [8.4 MB]
7. DeepSpeed 框架编译与安装_ev.mp4 [56.6 MB]
1. 绔犺妭浠嬬粛_ev.mp4 [5.2 MB]
9. 使用 DeepSpeed 单机多卡、分布式训练_ev.mp4 [8.9 MB]
6. DeepSpeed 与 Transformers 集成训练大模型_ev.mp4 [9.6 MB]
4. Microsoft DeepSpeed 框架和核心技术_ev.mp4 [64.3 MB]
2. 预训练模型显存计算方法_ev.mp4 [50.4 MB]
📁 第6章
📁 课件
6-大模型高效微调技术揭秘（下）.pdf [7.6 MB]
6. (IA)3：极简主义增量训练方法_ev.mp4 [30.4 MB]
3. AdaLoRA自适应权重矩阵微调技术_ev.mp4 [58.0 MB]
1. 绔犺妭浠嬬粛_ev.mp4 [3.7 MB]
2. LoRA低秩适配微调技术_ev.mp4 [58.2 MB]
4. QLoRA量化低秩适配微调技术_ev.mp4 [46.5 MB]
5. UniPELT：大模型PEFT统一框架_ev.mp4 [20.1 MB]
📁 第4章
📁 课件
4-实战Transformers模型训练.pdf [5.2 MB]
4. 实战训练BERT模型：文本分类任务_ev.mp4 [141.3 MB]
2. 数据集处理库Hugging Face Datasets_ev.mp4 [48.9 MB]
5. 实战训练BERT模型：QA任务_ev.mp4 [305.5 MB]
3. Transformers模型训练入门_ev.mp4 [21.4 MB]
1. 绔犺妭浠嬬粛_ev.mp4 [5.3 MB]
6.作业.txt [385.0 B]
📁 第3章
📁 课件
5-大模型开发工具库 HF Transformers.pdf [4.4 MB]
1. 绔犺妭浠嬬粛_ev.mp4 [2.6 MB]
5. 实战Hugging Face Transformers工具库_ev.mp4 [212.2 MB]
3. Transformers核心功能模块_ev.mp4 [46.7 MB]
6.作业.txt [281.0 B]
4. 大模型开发环境搭建_ev.mp4 [35.1 MB]
📁 第5章
📁 课件
Instruction-Tuning论文.zip [1.2 MB]
5-大模型高效微调技术揭秘（上）.pdf [9.8 MB]
Fine-tuning论文.zip [16.5 MB]
1. 绔犺妭浠嬬粛_ev.mp4 [7.0 MB]
3. PEFT主流技术分类介绍_ev.mp4 [23.0 MB]
📁 第9章
📁 课件
9-GLM 大模型家族与ChatGLM3-6B微调入门.pdf [15.3 MB]
GLM论文.zip [43.8 MB]
1. 绔犺妭浠嬬粛_ev.mp4 [4.6 MB]
6. 实战 QLoRA 微调 ChatGLM3-6B_ev.mp4 [89.0 MB]
7.作业.txt [179.0 B]
3. 扩展模型：联网检索、多模态、代码生成_ev.mp4 [44.8 MB]
4. 对话模型 ChatGLM 系列_ev.mp4 [11.2 MB]
📁 第12章
📁 课件
12-混合专家模型（MoEs）技术揭秘.pdf [5.1 MB]
MoEs论文.zip [7.7 MB]
1. 绔犺妭浠嬬粛_ev.mp4 [6.9 MB]
4. MoEs 瀹炰緥鐮旂┒锛歁ixtral-8x7B_ev.mp4 [25.8 MB]
2. MoEs 技术发展简史_ev.mp4 [107.5 MB]
3. MoEs 与大模型结合后的技术发展_ev.mp4 [98.3 MB]
📁 直播回放
8.29 第一次直播答疑_ev.mp4 [109.2 MB]
10.17 第四次直播答疑_ev.mp4 [65.3 MB]
9.26 第三次直播答疑_ev.mp4 [40.0 MB]
📁 第17章
5. 选学 API 基础教学和实战-问题解决方案.txt [436.0 B]
3.CogVLM模型部署实践.pdf [2.9 MB]
1. GLM 大模型家族介绍_ev.mp4 [60.7 MB]
2. GLM 模型部署微调实践_ev.mp4 [98.9 MB]
1.GLM大模型家族介绍.pdf [7.4 MB]
2.GLM模型部署实践.pdf [2.7 MB]
4.选学 GLM4 GLM4V API 调用实践.pdf [1.8 MB]
4. 选学 智谱第四代 API 介绍_ev.mp4 [7.9 MB]
3. CogVLM模型部署实践_ev.mp4 [63.4 MB]
5. 选学 API 基础教学和实战_ev.mp4 [42.6 MB]
6. 使用 GLM-4 API 构建模型和应用_ev.mp4 [67.0 MB]
📁 第1章
📁 课件
1-AI大模型四阶技术总览.pdf [20.7 MB]
7. AI大模型四阶技术总览：大模型微调（Fine-tuning）_ev.mp4 [42.7 MB]
8. AI大模型四阶技术总览：预训练技术（Pre-training）_ev.mp4 [21.0 MB]
1. 绔犺妭浠嬬粛_ev.mp4 [8.1 MB]
4. 把握浪潮：AI 大模型助力超级个体和小团队_ev.mp4 [18.6 MB]
3. AI应用浪潮：高校共识、硅谷创新、中美博弈_ev.mp4 [97.2 MB]
5. AI大模型四阶技术总览：提示工程（Prompt Engineering）_ev.mp4 [62.0 MB]
2. AI技术浪潮：弱人工智能、机器学习、深度学习、大语言模型_ev.mp4 [64.4 MB]
6. AI大模型四阶技术总览：AI智能体（Agents）_ev.mp4 [51.2 MB]
📁 第2章
📁 课件
2-大语言模型技术发展与演进.pdf [17.8 MB]
论文.zip [10.0 MB]
代码链接地址.txt [66.0 B]
6. 大语言模型：GPT-1与BERT_ev.mp4 [53.0 MB]
3. 神经网络语言模型_ev.mp4 [76.4 MB]
5. 大语言模型：Transformer网络架构_ev.mp4 [62.3 MB]
4. 大语言模型：注意力机制_ev.mp4 [48.9 MB]
1. 绔犺妭浠嬬粛_ev.mp4 [42.6 MB]
7. 大语言模型：暴力美学GPT系列模型_ev.mp4 [44.6 MB]
2. 统计语言模型_ev.mp4 [51.2 MB]
📁 第10章
📁 课件
10-实战私有数据微调ChatGLM3.pdf [10.2 MB]
1. 绔犺妭浠嬬粛_ev.mp4 [9.1 MB]
4. 数据增强：提升训练数据多样性_ev.mp4 [15.1 MB]
7.作业.txt [182.0 B]
3. 合成数据： LangChain + GPT-3.5 Turbo_ev.mp4 [12.6 MB]
6. 实战私有数据微调 ChatGLM3_ev.mp4 [103.8 MB]
2. 使用 ChatGPT 自动设计生成训练数据的 Prompt_ev.mp4 [60.6 MB]
5. 提示工程：保持批量生成数据稳定性_ev.mp4 [44.2 MB]
📁 第7章
📁 课件
7-大模型高效微调工具HF PEFT 入门与实战.pdf [4.9 MB]
5.作业.txt [556.0 B]
1. 绔犺妭浠嬬粛_ev.mp4 [3.3 MB]
4. 实战 LoRA 微调 Whisper-Large-v2 中文语音识别_ev.mp4 [233.8 MB]
02-课程表.webp [570.2 KB]
01-课前准备.docx [740.2 KB]

适合人群

• AI领域爱好者
• 深度学习研究者
• AI工程师

🎯 学习收获

• 掌握AI大模型微调技术
• 了解量化、RLHF等前沿技术
• 实战华为Ascend 910微调ChatGLM-6B

🎉 祝您学习愉快！