聚客AI大模型工程师第四期

课程简介

课程定位与前置门槛这套资料聚焦于大模型工程化的完整链路，涵盖从基础组件认知到企业级应用落地的核心实践。内容以 HuggingFace 生态为入口，深入讲解 LlamaIndex 框架构建 RAG 检索增强生成系统，并覆盖微调、量化压缩、分布式部署及自动化评估等关键工程环节。课程适合具备 Python 编程基础、理解 Transformer 基本原理，且希…

已有 0 人浏览发布 2026-10-10 更新 2026-10-10

课程定位与前置门槛

这套资料聚焦于大模型工程化的完整链路，涵盖从基础组件认知到企业级应用落地的核心实践。内容以 HuggingFace 生态为入口，深入讲解 LlamaIndex 框架构建 RAG 检索增强生成系统，并覆盖微调、量化压缩、分布式部署及自动化评估等关键工程环节。课程适合具备 Python 编程基础、理解 Transformer 基本原理，且希望从“调用 API”转向“私有化部署与定制开发”的开发者。建议学习者已掌握 PyTorch 基本使用，了解基本的深度学习训练流程，否则在微调与推理优化部分可能会遇到理解障碍。

核心模块与学习路径

建议按照“环境搭建—RAG 进阶—微调实战—部署优化”的逻辑顺序推进。首先通过 HuggingFace 核心组件介绍建立对模型仓库与数据集管线的认知，紧接着进入本地私有化部署环节，掌握 Ollama 与 vLLM 的快速启动，这是后续所有实验的环境基础。RAG 部分是重点，需依次研读 LlamaIndex 从快速构建索引到进阶的 Embedding 模型选择、ChromaDB 向量库集成，再到文档切分策略与重排序算法优化。随后结合 RAGFlow 工具，完成基于法律条文智能助手的实战项目，形成检索增强的应用闭环。在微调方面，依托 LLama Factory 框架，先掌握基于 Qwen 模型的标准化微调流程，再深入自定义数据集构建与情绪对话模型的端到端训练。最后，针对部署成本敏感场景，课程专门讲解知识蒸馏与大模型压缩技术，以及基于 OpenCompass 的模型自动化评估方法，帮助用户建立可量化的效果验证能力。

实践建议与产出预期

本套资料的价值在于其可复现的工程参考性。每个章节均配有对应的源码压缩包与高清视频，建议采用“对照代码复现、独立运行调试”的方式学习。不要仅观看视频，而应将源码解压至本地，逐步配置环境并跑通 demo。例如，在微调章节，需亲手处理数据集格式并监控训练 loss；在 RAG 章节，应尝试替换不同的向量模型或切分策略，观察检索效果变化。通过这种“看源码、改参数、测效果”的循环，学完后可独立搭建私有化知识库助手，完成模型微调与轻量化部署，真正掌握将开源大模型适配到垂直业务场景的工程能力，而非停留在概念理解层面。这种基于真实代码库的学习方式，能帮助开发者建立从算法原理到工程落地的完整知识体系。

课程目录

📁 18-Llama_indexRAG进阶_Embedding_model与Chroma
day18_Llama_indexRAG进阶_Embedding_model与ChromaDB.zip [1.4 MB]
📁 16-大模型微调项目实战（情绪对话模型-最终效果）
demo_16.rar [840.8 MB]
day16_大模型微调项目实战（情绪对话模型-最终效果）.zip [839.1 MB]
📁 19-Llama_indexRAG进阶_文档切分与重排序
day19_Llama_indexRAG进阶_文档切分与重排序.zip [817.6 KB]
📁 17-Llamaindex快速构建RAG
📁 12-大模型压缩训练（知识蒸馏）
day12_大模型压缩训练（知识蒸馏）.zip [927.4 KB]
📁 27-DeepSeek原理与应用
day27_DeepSeek原理与应用.zip [1.0 MB]
📁 01-HuggingFace核心组件介绍
day01_HuggingFace核心组件介绍.zip [1.1 GB]
01-HuggingFace核心组件介绍.mp4 [802.6 MB]
📁 13-大模型推理部署（分布式推理与量化部署）
day13_大模型推理部署（分布式推理与量化部署）.zip [4.0 MB]
📁 14-大模型评估测试（OpenCompass）
day14_大模型评估测试（OpenCompass）.zip [453.2 KB]
📁 07-大模型微调（使用LLama Factory微调Qwen）
📁 23-基于RAG的法律条文智能助手-实现与部署
day23_基于RAG的法律条文智能助手-实现与部署.zip [1.3 MB]
📁 21-RAGFlow
day21_RAGFlow.zip [3.4 MB]
📁 08-大模型微调（LLama Factory自定义微调数据集）
day08_大模型微调（LLama Factory自定义微调数据集）.zip [1.0 MB]
📁 06-本地私有化部署大模型（Ollama&vLLM&LMDeploy
day06_本地私有化部署大模型.zip [453.6 KB]
本地私有化部署大模型.mp4 [1.1 GB]
📁 20-Dify实现RAG
day20_Dify实现RAG.zip [2.5 MB]
📁 001开班典礼
00-开班典礼.mp4 [468.5 MB]
【聚客AI】AI大模型应用技术2025 - V1.0(1).pdf [208.6 KB]
📁 03-基于Bert的中文评价情感分析（实现篇）
_基于Bert的中文评价情感分析-实现.mp4 [522.1 MB]
📁 24-基于RAG的法律条文智能助手-微调与部署
day24_基于RAG的法律条文智能助手-微调与部署.zip [1.2 MB]
📁 10-大模型微调（LLamaFactory微调效果与vllm部署效果不一致如何解决）
day10_大模型微调（LLamaFactory微调效果与vllm部署效果不一致如何解决）.zip [630.4 KB]
📁 11-大模型微调分布式训练（LLama Factory与Xtuner分布式微调大模型）
day11_大模型微调分布式训练（LLama Factory与Xtuner分布式微调大模型）.zip [1.1 MB]
📁 04-GPT2-中文生成模型定制化（训练篇）
GPT2-中文生成模型定制化_训练篇.mp4 [625.7 MB]
📁 25-Dify构建Agent
【课件】Agent 智能体应用（Dify构建Agent）.zip [4.1 MB]
📁 02-基于Bert的中文评价情感分析（训练篇）
基于Bert的中文评价情感分析.mp4 [626.9 MB]
day02_基于Bert的中文评价情感分析（训练篇）.zip [371.0 MB]
📁 22-基于RAG的法律条文智能助手（方案篇）
day22_基于RAG的法律条文智能助手（方案篇）.zip [742.1 KB]
📁 09-大模型微调（QLora微调&GGUF模型转换）
day09_大模型微调（QLora微调&GGUF模型转换）.zip [1.1 MB]
📁 26-LangGraph构建多智能体
day26_LangGraph构建多智能体.zip [512.5 KB]
📁 28-多模态大模型应用
day28_多模态大模型应用.zip [5.8 MB]
📁 15-大模型微调项目实战（情绪对话模型-数据工程篇）
📁 05-GPT2-中文生成模型定制化
day05_GPT2-中文生成模型定制化.mp4 [1.1 GB]