大模型开发工程师VIP系统课（第三期）视频+课件|聚客

从 API 调用到私有化部署，补齐工程化最后一公里当前大模型应用开发普遍存在两层割裂：一类开发者仅会调用云端 API，缺乏对模型底层原理的理解，一旦业务涉及数据隐私或成本敏感场景，便无从下手；另一类开发者虽懂理论，却从未在真实 GPU 环境下完成过从数据处理到服务上线的全流程，导致「能训练不能跑，

单课价¥29新品上架

会员价 会员免费开通会员，全站课程按额度无限下载套餐详情

0 人关注更新于 2026-10-07 永久有效

发货

网盘链接 · 支付成功后自动发货

保障

永久有效 · 链接失效免费补发

客服

每日 9:00-21:00 在线客服联系客服

开通会员 · 免费下载单课购买 ¥29

支付成功后自动发货，可在「我的订单」查看网盘链接；链接失效可联系客服免费补链。

正版保障极速发货售后无忧

从 API 调用到私有化部署，补齐工程化最后一公里

当前大模型应用开发普遍存在两层割裂：一类开发者仅会调用云端 API，缺乏对模型底层原理的理解，一旦业务涉及数据隐私或成本敏感场景，便无从下手；另一类开发者虽懂理论，却从未在真实 GPU 环境下完成过从数据处理到服务上线的全流程，导致「能训练不能跑，能跑不能调」。本资料以工业级落地为目标，覆盖 RAG、Embedding、向量检索、LangChain 框架集成以及基于 Hugging Face 生态的模型微调，核心解决「如何让大模型在私有环境中稳定运行并持续迭代」这一关键问题。适合具备 Python 基础、熟悉 Flask/FastAPI 等 Web 框架、并了解 Transformer 基本原理的后端工程师或 AI 应用开发爱好者。若你从未接触过模型训练，建议先补一补 PyTorch 张量操作与 CUDA 基础概念，再进入实战环节。

建议学习路径与可独立交付的能力

学习顺序建议遵循「感知→改造→部署」的逻辑。首先通过 Day04 至 Day08 理解 Hugging Face 核心组件与 BERT 情感分析流程，建立对中文 NLP 任务的直觉；随后在 Day10 至 Day11 接触 Llama3 本地调用与微调，重点掌握 LoRA 参数高效微调的核心思想；接着通过 Day13 至 Day15 完成模型导出、量化（GGUF 格式）与评估，这是确保模型在生产环境低延迟、低显存占用的关键步骤；最后通过 Day16 及之后的 Qwen 系列打包部署，打通从模型权重到可调用服务的完整链路。学完后，你能够独立构建一个基于私有数据的企业级 RAG 系统，或针对特定垂直领域（如客服、代码生成、文案创作）微调开源基座模型，并具备将其封装为 API 服务部署至远程 GPU 服务器的能力。

资料配合练习的方法论

本资料并非观看型内容，而是对照实践型工程指南。课件与视频对应的是具体代码仓库与配置文件，建议你在拥有远程 GPU 服务器（如 AutoDL、Vast.ai 或本地多卡工作站）的环境中，按照时间线逐天复现。Day09 的远程服务器配置是后续所有实验的前提，务必先搞定环境隔离与依赖管理；Day12 的 LoRA 合并与推理测试、Day13 的量化导出是易错点，建议手动执行每一步命令而非直接运行脚本，以理解权重转换的内存变化；Day15 的 GGUF 部署涉及 llama.cpp 生态，需特别注意显存映射与 KV Cache 配置。只有将课件中的 YAML 配置、HF 数据集格式、LoRA adapter 合并逻辑亲手跑通，才能真正将知识转化为可调用的工程能力。

课程介绍

QQ_1756995294945.png (66.95 KB, 下载次数: 0) 2025-9-4 22:15 上传 1_开班典礼-241216 2_RAG-Embedding-Vector 3_LangChain day04_Hugging Face 核心组件介绍 day05_基于 BERT 的中文评价情感分析 day06_自定义vocab day07_如何处理超长文本训练问题 day08_GPT2-中文生成模型定制化微调训练 day09_远程GPU服务器 day10_llama3大模型本地调用 day11_Llama3.2模型微调 day12_Lora模型合并与推理测试 day13_LLaMA-Factory模型导出量化 day14_LLaMA-Factory模型评估与QLora微调 day15_Qwen模型打包部署（Lora模型合并&转GGUF模型部署） day16_Qwen模型打包

课程目录

QQ_1756995294945.png (66.95 KB, 下载次数: 0) 2025-9-4 22:15 上传 1_开班典礼-241216 2_RAG-Embedding-Vector 3_LangChain day04_Hugging Face 核心组件介绍 day05_基于 BERT 的中文评价情感分析 day06_自定义vocab day07_如何处理超长文本训练问题 day08_GPT2-中文生成模型定制化微调训练 day09_远程GPU服务器 day10_llama3大模型本地调用 day11_Llama3.2模型微调 day12_Lora模型合并与推理测试 day13_LLaMA-Factory模型导出量化 day14_LLaMA-Factory模型评估与QLora微调 day15_Qwen模型打包部署（Lora模型合并&转GGUF模型部署） day16_Qwen模型打包部署（HF转GGUF&ollama+open_webui部署） day17_Xtuner微调大模型 day18_LMDeploy部署大模型 day19_OpenCompass大模型评估 day20_llama-index核心组件 day21_llama-index入门实操 day22_llama-index实现RAG day23_AutoGen_Studio搭建多智能体应用 day24_多模态大模型 day25_deep-seek与多卡训练 day26_基于本地大模型的AI试题系统（方案篇） day27_基于本地大模型的AI试题系统（实现篇） day28_基于RAG的法律条文智能助手（方案篇） day29_基于RAG的法律条文助手（实现篇） day30_基于pytorch的语音唤醒系统