这门课解决的是"想用自己的数据训练专属大模型"的问题。市面上大部分大模型应用都依赖别人现成的权重,但企业往往有私有数据、特定领域知识,想要微调出贴合自身业务的回答风格——LoRA、DeepSpeed、量化这些工具链,就是你要手动搭起来的东西。学完,你就能独立完成"数据准备→LoRA微调→推理部署"的完整流程。 适合什么基础 没有编程基础也能看,但建议至少会…
这门课解决的是"想用自己的数据训练专属大模型"的问题。市面上大部分大模型应用都依赖别人现成的权重,但企业往往有私有数据、特定领域知识,想要微调出贴合自身业务的回答风格——LoRA、DeepSpeed、量化这些工具链,就是你要手动搭起来的东西。学完,你就能独立完成"数据准备→LoRA微调→推理部署"的完整流程。
没有编程基础也能看,但建议至少会 Python 基础语法,理解 NumPy 和 PaddlePaddle/PyTorch 的基本概念。课程里大量出现环境安装、数据预处理、多卡配置,这些环节需要动手操作,纯看不动手会跟不上。如果你完全零基础,建议先花半天熟悉 PyTorch 的张量和训练循环概念,否则后面的 LoRA 训练部分会停留在"知道原理"而非"能跑通"的阶段。
按学习顺序,优先看 LoRA 微调那一组(从环境搭建到训练到推理),这是整个课程的核心链路。Prompt 相关的内容(改写、抽取、角色扮演)可以放在中间学,理解提示工程对后续训练数据的质量把控很有帮助。DeepSpeed 多卡配置和 ChatGLM3 部分相对独立,可以根据实际工作需求决定学不学。
视频是主线,建议边看边在本地环境实操。LoRA 训练部分涉及 LLaMA2 权重下载和微调,看完后一定要跟着跑一遍自己的数据集,哪怕只有几十条问答,也要把训练和推理环节跑通。Prompt 任务建议直接对着做练习,比如自己改写一组抽取模板,对照课程示例找差异。DeepSpeed 那几节偏工程配置,如果你日常不用多卡训练,可以只看概述和单卡 demo 实例,跳过多机多卡配置部分。
10_prompt_改写任务2_ev.mp4 72.24M 10-1.1_llama2任务简介.mp4 136.49M 10-1.2_rams数据处理_1.mp4 91.67M 10-1.2_rams数据处理_2.mp4 77.92M 10-1.3_lora原理部分介绍.mp4 40.01M 10-1.4_llama2环境安装以及部分bug排查.mp4 219.99M 10-1.5_lora训练.mp4 146.98M 10-1.6_lora推理部分_问题生成.mp4 135.53M 10-1.7_lora_推理_fewshot回答.mp4 58.79M 10-1.8_int8量化原理.mp4 57.00M 11_prompt_抽取任务1_ev.mp4 54.15M 12_prompt_抽取任务2_ev.mp4 90.33M 13_prompt角色扮演_ev.mp4 121.09M 14_prompt_数据制作1_ev.mp4 45.81M 15_prompt_数据制作2_ev.mp4 27.49M 16_prompt_数据制作3_ev.mp4 87.71M 17_prompt_数据制作4_ev.mp4 122.38M 18_deepspeed_概述_ev.mp4 59.84M 19_deepspeed_配置_ev.mp4 38.48M 21_deepspeed_demo实例.mp4 42.37M 26_deepspeed_多机多卡配置.mp4 37.04M 27_chatglm3_新特性.mp4 52.99M 28_chatglm3_新特2.mp4 53.94M 29_流式与非流式_chat_generate.mp4 52.27M 30_glm2的tokenizer.mp4 49.51M 31_推理、训练、量化占用显存.mp4 83.60M 32_chatglm全量微调1.mp4 114.64M 33_chatglm全量微调2-cpu交换技术.mp4 215.40M 34_chatglm全量微调3-.mp4 137.16M 35_微调结果评测.mp4 25.10M 36_微调模型加载1.mp4 36.77M 37_微调结束后-推理.mp4 48.31M 38-微调优化.mp4 94.65M 39-codegeex微调-数据准备.mp4 43.15M 40-codegeex-微调数据处理.mp4 137.69M 41-codegeex-微调结果评测.mp4 48.86M 42-function-call概述.mp4 30.36M 43-function_call概述2.mp4 24.31M 44-function-call实例1.mp4 49.20M 45-手写function_call-1.mp4 66.08M 46-手写function_call-2.mp4 158.51M 47-streamlit-debug环境配置.mp4 42.92M 48_function-all_官方代码逐行解读.mp4 97.16M 49_code-interpreter-概述.mp4 26.23M 50_手写code-interpreter.mp4 140.91M 51_code-interpreter进阶.mp4 72.72M 52_项目演示.mp4 13.38M 53_akshare接口.mp4 49.69M 54_gradio-界面设计.mp4 40.85M 55_手写项目.mp4 289.21M LLM大模型视频 0_课程介绍_ev.mp4 27.86M 1_模型文件下载方法1.mp4 _ev.mp4 31.89M 2_模型文件下载方法2.mp4 _ev.mp4 37.20M 3_配置服务器jupyter环境.mp4 _ev.mp4 75.35M 4_vscode远程连接服务器.mp4 _ev.mp4 34.73M 5_vscode远程debug配置.mp4 _ev.mp4 82.65M 9_prompt_鏀瑰啓浠诲姟1_ev.mp4 62.54M 0-课程大纲简要说明_ev.mp4 6.72M 2-llm鐨勫彂灞曞巻绋媉part1_ev.mp4 45.10M 2-llm鐨勫彂灞曞巻绋媉part2_ev.mp4 66.92M 3-llm的训练流程以及常见的概念_ev.mp4 96.39M 4-llm的常见架构_ev.mp4 76.72M 6-1.1_llm鐨勫够瑙夊畾涔塤ev.mp4 34.32M 6-1.2幻觉的评估方法_ev.mp4 17.82M 6-1.3幻觉产生的原因_ev.mp4 29.32M 6-1.4_llm幻觉的常见的解决方式_ev.mp4 35.51M 6-1.5_llm鐨勭煡璇嗙紪杈慱ev.mp4 48.93M 8-1.1_Llama2的rmsnorm_原理_ev.mp4 37.15M 8-1.3_Llama2的ROPE_原理_ev.mp4 155.39M 8-1.5_Llama2的Attention_原理_ev.mp4 43.69M 8-1.7_Llama2的ffn_原理_ev.mp4 10.70M 9-1.1pet原理&dataloader_ev.mp4 149.57M 9-1.2pet模型和训练验证_ev.mp4 108.46M 9-1.3ptuningv1原理以及代码_ev.mp4 184.62M 9-1.4ptuningv2原理_ev.mp4 15.83M 文档 sft高效微调.pdf 1.83M 大语言模型(Large Language Model,LLM)综述.pdf 4.63M 面试.pdf 362.16kb 配置服务器的jupyter环境.pdf 193.15kb 手写llama2源码.pdf 541.48kb 代码.zip 11.51G