getfromcode

极客时间彭靖田AI大模型微调第0期

AI
课程简介

课程概述 本课程的主题是“大模型微调”,重点围绕如何对预训练语言模型进行微调以适配具体任务,比如文本分类、问答系统、生成式任务等。课程设计以理论讲解与实践结合的方式展开,适合有一定深度学习背景的开发者。如果你已经熟悉深度学习的基本原理,并具备使用Python和PyTorch进行模型训练的经验,那么这门课程将为你提供一个高效的进阶路径。课程内容涵盖了微调的核…

已有 22 人浏览 发布 2026-01-12 更新 2026-10-09

课程概述

本课程的主题是“大模型微调”,重点围绕如何对预训练语言模型进行微调以适配具体任务,比如文本分类、问答系统、生成式任务等。课程设计以理论讲解与实践结合的方式展开,适合有一定深度学习背景的开发者。如果你已经熟悉深度学习的基本原理,并具备使用Python和PyTorch进行模型训练的经验,那么这门课程将为你提供一个高效的进阶路径。课程内容涵盖了微调的核心概念、常见方法、训练技巧以及实际应用中的注意事项,帮助你从基础走向更复杂的模型优化。

适合的学习基础

课程的起点并不低,它要求学习者具备一定的深度学习基础,尤其是对神经网络的训练流程、损失函数、优化器等有基本理解。同时,熟悉PyTorch框架是前提条件,因为课程中的代码实现和实验部分均基于PyTorch。如果你对Transformer模型、预训练模型(如BERT、RoBERTa)的结构和原理有一定了解,那么你将更容易跟上课程节奏。对于尚未掌握这些知识的开发者,建议先补足相关基础,比如完成一个完整的深度学习项目,或者学习PyTorch的官方教程,以确保在微调过程中能理解每一步代码的含义和背后的数学逻辑。

课程结构与内容安排

课程采用模块化结构,分为多个核心章节,涵盖从模型加载到微调参数设置、数据处理、训练策略、评估方法等多个方面。每个章节都会结合经典论文进行讲解,例如针对文本分类任务,会涉及《BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding》等文献,帮助学习者深入理解模型设计的初衷和实际效果。此外,课程还提供了大量代码示例和实验任务,适用于不同任务场景下的微调实践,比如分类、生成、问答等。这些代码片段不仅展示了如何实现微调,还强调了模型结构、训练配置和优化技巧的合理选择。 在数据处理部分,课程详细讲解了如何准备和预处理训练数据,包括数据清洗、分词、填充、转换为张量等步骤,并结合实际案例说明如何将其应用到微调流程中。训练策略方面,课程会讨论学习率调整、早停机制、权重初始化、正则化方法等,这些都是微调过程中影响模型性能的关键因素。评估方法则提供了一套完整的指标体系,包括准确率、F1值、AUC、BLEU等,帮助学习者全面衡量微调效果。

如何配合资料包进行练习

为了更好地掌握课程内容,建议学习者在每节课后结合资料包中的代码示例进行复现和修改。资料包中包含了完整的代码框架、实验数据集以及相关配置文件,你可以直接运行并观察输出结果,同时尝试调整参数或替换模型结构,以理解不同设置对微调效果的影响。这种动手实践的方式能够加深对理论知识的理解,并提高编码能力。 此外,课程中的作业部分提供了具体的任务目标,例如对某个数据集进行微调并评估性能。建议在完成这些任务时,先仔细阅读对应的课程讲解内容,再对照资料包中的代码进行实现。遇到问题时,可以通过查阅课程中的相关章节或补充材料来寻找解决方案。资料包中的代码不仅具有可读性,还具备良好的模块化结构,便于学习者复用和扩展,适合用于构建自己的微调工具链。

学完能独立做什么

完成本课程后,学习者将具备独立进行大模型微调的能力,并能根据具体任务需求选择合适的模型、数据集和训练策略。你不仅可以完成基础的微调任务,还能针对不同场景进行参数调优、模型结构改进以及训练效率的提升。例如,你将能够使用预训练模型进行文本分类、情感分析、问答系统的构建,甚至尝试生成式任务如文本摘要或对话生成。更重要的是,你将掌握如何通过实验验证不同策略的有效性,并根据实验结果进行迭代优化。 对于希望深入研究大模型微调的开发者,本课程提供了一个清晰的起点和框架,可以帮助你建立起系统的知识体系。建议在掌握基础内容后,自行查阅相关领域的最新论文和技术动态,进一步拓展知识边界。同时,结合实际项目进行演练,将理论知识转化为实际能力,是持续提升的关键。

课程介绍

学习总结:微调训练营的课程设置还是比较紧凑和全面的,如果你没有太多大模型开发基础,也没做过深度学习训练,那学起来可能门槛还是偏高,但想入这一行的同学应该多少都有怎么训练神经网络的经验,也了解python和pytorch的基本使用的,所以我觉得如果感兴趣还是可以学一学的,用几周的时间把基本的框架和一些经典的论文听彭老师给你串讲一遍,根据老师讲的把作业完成,基本上足够保证你入门。至于后续的修炼,可以自己根据所讲的框架或者脉络自行进行论文学习。

课程目录

/13-056-极客时间彭靖田AI大模型微调第0期/
│├─00-开营直播1019
│├─01-开营直播:大语言模型微调的前沿技术与应用
│├─02-大模型四阶技术总览
│├─03-大语言模型技术发展与演进
│├─04-大语言模型微调技术揭秘-PEFT
│├─05-大语言模型微调技术揭秘-LoRA
│├─06-大模型开发工具库
│├─07-实战 Transformers 模型微调
│├─08-实战Transformers模型量化
│├─09-大模型高效微调工具HF PEFT
│├─10-实战QLoRA微调ChatGLM3-6B
│├─11-快速入门 LangChain
│├─12-实战基于LangChain和ChatGLM私有化部署聊天机器人
│├─13-实战私有数据微调ChatGLM3
│├─14-ChatGPT大模型训川练技术RLHF
│├─15-混合专家模型(MoEs)技术揭秘
│├─16-大模型分布式训练框架 Microsoft DeepSpeed
│├─17-Meta AI 大模型家族 LLaMA
│├─课程大纲.jpg 1.4MB

详细目录

00-开营直播1019/
│├─10.19直播答疑部分.mp4 555.4MB
│├─RAG、微调、预训练,如何选择适合的大模型优化方式?.mp4 1.1GB
│├─大厂案例PPT
│大厂案例PPT/
││├─360 大数据平台定制开发之道.pdf 811.7KB
││├─DDD 在京东物流的落地效果.pdf 966KB
││├─Go 并发数据结构和算法实践.pdf 662.1KB
││├─Go 语言基础原理深度解析.pdf 479.8KB
││├─大疆 Kubernetes 探索与实践之路.pdf 1.9MB
││├─如何建设一支能打硬仗的技术团队.pdf 173.9KB
││├─微保 Service Mesh 研发实践中的取舍-龙武_compressed.pdf 598.7KB
││├─快手 AI 生成式技术实践.pdf 629KB
││├─技术管理路上的那些事儿.pdf 1.2MB
││├─推荐系统特征交互建模:浅层模型、深度模型与 AutoML.pdf 2.5MB
││├─构建批流一体化 AI 数据平台的深度探索.pdf 1MB
││├─百度文心 (ERNIE) 语义理解技术详解.pdf 1.4MB
││├─研发效能建设的“灵魂拷问”与落地实践.pdf.pdf 1.3MB
││├─类秒杀场景下的瞬时大流量高并发实践.pdf 526.4KB
││├─腾讯万亿级 Elasticsearch 架构实践.pdf 1.3MB
││├─阿里工程效能微创新.pdf 2.1MB
01-开营直播:大语言模型微调的前沿技术与应用/
│├─直播评论
│├─视频
│├─课件
│直播评论/
││├─20231129评论区记录.xlsx 16.5KB
│视频/
││├─01-大模型微调的前沿技术与应用.mp4 1.4GB
│课件/
││├─开营直播:大语言模型微调的前沿技术与应用.pdf 9.9MB
02-大模型四阶技术总览/
│├─直播评论
│├─视频
│├─课件
│直播评论/
││├─20231203评论区记录.xlsx 17.1KB
│视频/
││├─AI大模型四阶技术总览.mp4 3GB
│课件/
││├─1-AI大模型四阶技术总览-新.pdf 18.9MB
││├─1-AI大模型四阶技术总览.pdf 20.7MB
03-大语言模型技术发展与演进/
│├─直播评论
│├─视频
│├─课件
│├─资料
│直播评论/
││├─20231203评论区记录.xlsx 17.1KB
│视频/
││├─大模型演进.mp4 2.9GB
│课件/
││├─2-大语言模型技术发展与演进.pdf 17.8MB
│资料/
││├─论文.exe 10.1MB
04-大语言模型微调技术揭秘-PEFT/
│├─直播评论
│├─视频
│├─课件
│├─资料
│直播评论/
││├─20231206评论区记录.xlsx 14.3KB
│视频/
││├─大模型微调技术揭秘-PEFT.mp4 4.6GB
││├─新录制1月14日.mp4 3.7GB
│课件/
││├─2-大语言模型技术发展与演进.pdf 17.8MB
││├─3-大模型微调技术揭秘-PEFT.pdf 10MB
│资料/
││├─Fine-tuning论文.exe 15.6MB
05-大语言模型微调技术揭秘-LoRA/
│├─直播评论
│├─视频
│├─课件
│├─资料
│直播评论/
││├─20231210评论区记录.xlsx 16KB
│视频/
││├─大模型低秩适配(LoRA)技术.mp4 4.3GB
│课件/
││├─3-大模型微调技术揭秘.pdf 16.2MB
││├─4-大模型微调技术揭秘-LoRA.pdf 7.5MB
│资料/
││├─UniPELT A Unified Framework for Parameter-Efficient Language Model Tuning.pdf 444.5KB
06-大模型开发工具库/
│├─视频
│├─课件
│视频/
││├─大模型开发工具.mp4 3.1GB
│课件/
││├─5-大模型开发工具库 HF Transformers.pdf 4.4MB
07-实战 Transformers 模型微调/
│├─代码
│├─直播评论
│├─视频
│├─课件
│代码/
││├─github.txt 44byte
│直播评论/
││├─20231220评论区记录.xlsx 15.8KB
│视频/
││├─12月13日.mp4 4.3GB
│课件/
││├─6-实战Transformers模型微调.pdf 4.4MB
08-实战Transformers模型量化/
│├─代码
│├─直播评论
│├─视频
│├─课件
│├─资料
│代码/
││├─github.txt 44byte
│直播评论/
││├─20231224评论区记录.xlsx 12.5KB
│视频/
││├─12月24日.mp4 4.6GB
│课件/
││├─7-实战Transformers模型量化.pdf 6.4MB
│资料/
││├─Quantization论文
││Quantization论文/
│││├─AWQ.pdf 5.3MB
│││├─GPTQ.pdf 509.6KB
09-大模型高效微调工具HF PEFT/
│├─代码
│├─直播评论
│├─视频
│├─课件
│代码/
││├─github.txt 44byte
│直播评论/
││├─20231227评论区记录.xlsx 12.8KB
│视频/
││├─12月27日.mp4 4.4GB
│课件/
││├─8-大模型高效微调工具HF PEFT.pdf 2.8MB
10-实战QLoRA微调ChatGLM3-6B/
│├─代码
│├─直播评论
│├─视频
│├─课件
│├─资料
│代码/
││├─github.txt 44byte
│直播评论/
││├─20240103评论区记录.xlsx 10.5KB
│视频/
││├─1月3日.mp4 2.6GB
│课件/
││├─9-实战QLoRA 微调 ChatGLM3-6B.pdf 14.1MB
│资料/
││├─GLM论文.exe 8.5MB
11-快速入门 LangChain/
│├─视频
│├─课件
│视频/
││├─1月7日-2.mp4 1.5GB
││├─1月7日.mp4 730.8MB
│课件/
││├─10-快速入门 LangChain 大模型应用开发框架.pdf 9.7MB
12-实战基于LangChain和ChatGLM私有化部署聊天机器人/
│├─直播评论
│├─视频
│├─课件
│直播评论/
││├─20240110评论区记录.xlsx 13.5KB
│视频/
││├─1月10日.mp4 3.8GB
│课件/
││├─11-实战基于LangChain和ChatGLM私有化部署聊天机器人.pdf 10.6MB
13-实战私有数据微调ChatGLM3/
│├─代码
│├─直播评论
│├─视频
│├─课件
│代码/
││├─代码.txt 44byte
│直播评论/
││├─20240118评论区记录.xlsx 14.2KB
│视频/
││├─1月18日.mp4 4.9GB
│课件/
││├─12-实战私有数据微调ChatGLM3.pdf 10MB
14-ChatGPT大模型训川练技术RLHF/
│├─代码
│├─直播评论
│├─视频
│├─课件
│代码/
││├─代码.txt 44byte
│直播评论/
││├─20240121评论区记录.xlsx 13.2KB
│视频/
││├─1月21日.mp4 3.5GB
│课件/
││├─13-ChatGPT大模型训练技术RLHF.pdf 6.5MB
15-混合专家模型(MoEs)技术揭秘/
│├─直播评论
│├─视频
│├─课件
│├─资料
│直播评论/
││├─20240124评论区记录.xlsx 11.4KB
│视频/
││├─1月25日.mp4 3.4GB
│课件/
││├─14-混合专家模型(MoEs)技术揭秘.pdf 5.4MB
│资料/
││├─MoEs.exe 7.5MB
16-大模型分布式训练框架 Microsoft DeepSpeed/
│├─代码
│├─直播评论
│├─视频
│├─课件
│├─资料
│代码/
││├─代码.txt 44byte
│直播评论/
││├─20240128评论区记录.xlsx 12.7KB
│视频/
││├─1月28日.mp4 6.4GB
│课件/
││├─15-大模型分布式训练框架Microsoft DeepSpeed(1).pdf 7.8MB
│资料/
││├─ZeRO.exe 3.1MB
17-Meta AI 大模型家族 LLaMA/
│├─直播评论
│├─视频
│├─课件
│├─资料
│直播评论/
││├─20240131评论区记录.xlsx 11.8KB
│视频/
││├─1月31日.mp4 3.1GB
│课件/
││├─16-Meta AI 大模型家族 LLaMA.pdf 8.6MB
│资料/
││├─LLaMA.exe 15.3MB

课程购买
课程价格
金币29
290金币限时优惠会员免费
销量:0
💎 开通会员每日免费下载,比单买更划算 →
支付成功后会自动显示下载资源云盘的链接!点击链接即可下载到本地。