课程简介
解决大模型落地中的幻觉与知识孤岛 这套资料的核心价值在于解决企业级应用中大模型最头疼的两个痛点:一是通用模型缺乏特定领域知识导致的回答幻觉,二是私有数据无法直接输入模型的问题。它不是一堆零散的代码片段,而是一套完整的 RAG(检索增强生成)工程化落地方案。通过构建高效的向量索引和精准的检索策略,让大模型能够基于企业内部的非结构化文档进行事实性问答。对于希望…
解决大模型落地中的幻觉与知识孤岛 这套资料的核心价值在于解决企业级应用中大模型最头疼的两个痛点:一是通用模型缺乏特定领域知识导致的回答幻觉,二是私有数据无法直接输入模型的问题。它不是一堆零散的代码片段,而是一套完整的 RAG(检索增强生成)工程化落地方案。通过构建高效的向量索引和精准的检索策略,让大模型能够基于企业内部的非结构化文档进行事实性问答。对于希望将 AI 能力从“聊天玩具”转化为“生产力工具”的开发者来说,这里提供的架构设计、数据清洗流程以及提示词工程技巧,都是可以直接复用到实际项目中的硬通货。它强调的是系统稳定性与响应速度,而非单纯追求模型参数的堆砌。
技术门槛与前置准备 上手这套资料并不需要你是算法专家,但必须具备扎实的 Python 工程能力。你需要熟悉基本的异步编程、API 调用逻辑,并理解 HTTP 协议的基本交互。更重要的是,要对向量数据库(如 Milvus、Chroma 或 PGVector)有基本概念,知道什么是 Embedding 向量以及余弦相似度是如何计算的。如果你之前只看过 LangChain 的简单 Demo,对数据预处理和索引构建感到陌生,那么建议先花半天时间复习向量检索的基础原理。课程中涉及的代码量较大,且涉及多个微服务模块的协同,如果你习惯使用 Docker 进行环境隔离,上手过程会非常平滑。反之,如果本地环境依赖混乱,可能会在配置阶段花费大量时间,建议提前预留出调试环境的时间。
建议的学习顺序与实战路径 不要试图一次性跑通所有代码,建议采用“分层拆解”的学习策略。第一步,先关注数据层,理解原始文档是如何被切片、清洗并转化为向量存入数据库的,这是整个系统的基石。第二步,研究检索层,看看是如何根据用户 Query 召回最相关的文档片段,重点关注召回策略和重排序逻辑。第三步,进入生成层,分析 Prompt 模板是如何将检索到的上下文与用户问题结合,以最小化幻觉。第四步,才是前端交互与接口封装。在学习过程中,建议每隔一个模块就手动修改一个参数(如切片大小、Top-K 值),观察输出结果的变化,这种对比实验比单纯阅读代码更能加深理解。
学完后的独立产出 完成这套资料的学习与实践后,你应当具备独立搭建垂直领域智能问答系统的能力。你可以为电商行业构建商品咨询助手,为法律领域打造合同审查工具,或者为公司内部知识库实现即时检索问答。你不仅能写出代码,还能根据业务场景调整检索精度与生成质量,处理长文档、多轮对话以及复杂逻辑推理等实际业务难题。
资料配合练习的方法 建议将源码视为“参考实现”而非“标准答案”。在本地复现时,尝试替换不同的底层模型或向量数据库,验证架构的通用性。遇到报错时,不要直接搜索解决方案,而是先阅读源码中的异常处理逻辑,理解框架的设计意图。通过这种“读码-复现-改造”的闭环练习,你将真正掌握大模型应用开发的底层逻辑,而不仅仅是学会调用几个 API。
网盘截图:
课程目录:
├─001开班典礼
│ 【聚客AI】AI大模型 应用技术2025 - V1.0(1).pdf
│
├─01-HuggingFace核心组件介绍
│ 01-HuggingFace核心组件介绍.mp4
│ day01_HuggingFace核心组件介绍.zip
│
├─02-基于Bert的中文评价情感分析(训练篇)
│ day02_基于Bert的中文评价情感分析(训练篇).zip
│ 基于Bert的中文评价情感分析.mp4
│
├─03-基于Bert的中文评价情感分析(实现篇)
│ day03_基于Bert的中文评价情感分析(实现篇).zip
│ _基于Bert的中文评价情感分析-实现.mp4
│
├─04-GPT2-中文生成模型定制化(训练篇)
│ 04-GPT2-中文生成模型定制化(训练篇).zip
│ GPT2-中文生成模型定制化_训练篇.mp4
│
├─05-GPT2-中文生成模型定制化
│ day05学习附件.zip
│ GPT2-中文生成模型定制化.mp4.baiduyun.p.downloading
│
├─06-本地私有化部署大模型(Ollama&vLLM &LMDeploy
│ day06_本地私有化部署大模型.zip
│ 本地私有化部署大模型.mp4
│
├─07-大模型微调(使用LLama Factory微调Qwen)
│ day07_大模型微调(使用LLama Factory微调Qwen).zip
│
├─08-大模型微调(LLama Factory自定义微调数据集)
│ day08_大模型微调(LLama Factory自定义微调数据集).zip
│
├─09-大模型微调(QLora微调&GGUF模型转换)
│ day09_大模型微调(QLora微调&GGUF模型转换).zip
│
├─10-大模型微调(LLamaFactory微调效果与vllm部署效果不一致如何解决)
│ day10_大模型微调(LLamaFactory微调效果与vllm部署效果不一致如何解决).zip
│
├─11-大模型微调分布式训练(LLama Factory与Xtuner分布式微调大模型)
│ day11_大模型微调分布式训练(LLama Factory与Xtuner分布式微调大模型).zip
│
├─12-大模型压缩训练(知识蒸馏)
│ day12_大模型压缩训练(知识蒸馏).zip
│
├─13-大模型推理部署(分布式推理与量化部署)
│ day13_大模型推理部署(分布式推理与量化部署).zip
│
├─14-大模型评估测试 (OpenCompass)
│ day14_大模型评估测试(OpenCompass).zip
│
├─15-大模型微调项目 实战(情绪对话模型-数据工程篇)
│ day15_大模型微调项目实战(情绪对话模型-数据工程篇).zip
│
├─16-大模型微调项目实战(情绪对话模型-最终效果)
│ │ day16_大模型微调项目实战(情绪对话模型-最终效果).zip
│ │
│ └─demo_16
│ │ cleaned_output.txt
│ │ data_convert.py
│ │ get_data.py
│ │ model_convert.py
│ │
│ ├─.idea
│ │ workspace.xml
│ │
│ └─embedding_model
│ │ download.py
│ │
│ ├─sungw111
│ │ └─text2vec-base-chinese-sentence
│ │ │ .mdl
│ │ │ .msc
│ │ │ .mv
│ │ │ config.json
│ │ │ configuration.json
│ │ │ eval_results.txt
│ │ │ model.safetensors
│ │ │ modules.json
│ │ │ README.md
│ │ │ sentence_bert_config.json
│ │ │ special_tokens_map.json
│ │ │ tokenizer.json
│ │ │ tokenizer_config.json
│ │ │ training_progress_scores.csv
│ │ │ vocab.txt
│ │ │
│ │ └─1_Pooling
│ │ config.json
│ │
│ └─zy
│ └─text2vec-base-chinese-sentence
│ │ added_tokens.json
│ │ config.json
│ │ config_sentence_transformers.json
│ │ model.safetensors
│ │ modules.json
│ │ README.md
│ │ sentence_bert_config.json
│ │ special_tokens_map.json
│ │ tokenizer.json
│ │ tokenizer_config.json
│ │ vocab.txt
│ │
│ ├─1_Pooling
│ │ config.json
│ │
│ └─2_Normalize
├─17-Llamaindex快速构建RAG │ day17_Llamaindex快速构建RAG.zip
│
├─18-Llama_indexRAG进阶_Embedding_model与Chroma
│ day18_Llama_indexRAG进阶_Embedding_model与ChromaDB.zip
│
├─19-Llama_indexRAG进阶_文档切分与重排序
│ day19_Llama_indexRAG进阶_文档切分与重排序.zip
│
├─20-Dify实现RAG
│ day20_Dify实现RAG.zip
│
├─21-RAGFlow
│ day21_RAGFlow.zip
│
├─22-基于RAG的法律条文智能助手(方案篇)
│ day22_基于RAG的法律条文智能助手(方案篇).zip
│
├─23-基于RAG的法律条文智能助手-实现与部署
│ day23_基于RAG的法律条文智能助手-实现与部署.zip
│
├─24-基于RAG的法律条文智能助手-微调与部署
│ day24_基于RAG的法律条文智能助手-微调与部署.zip
│
├─25-Dify构建Agent
│ 【课件】Agent 智能体应用(Dify构建Agent).zip
│
├─26-LangGraph构建多智能体
│ day26_LangGraph构建多智能体.zip
│
├─27-DeepSeek原理与应用
│ day27_DeepSeek原理与应用.zip
│
└─28-多模态大模型应用 day28.mp4 day28_多模态大模型应用.zip课程目录 001开班典礼
00-开班典礼.mp4
【聚客AI】AI大模型应用技术2025 - V1.0(1).pdf
01-HuggingFace核心组件介绍
01-HuggingFace核心组件介绍.mp4
day01_HuggingFace核心组件介绍.zip
02-基于Bert的中文评价情感分析(训练篇)
day02_基于Bert的中文评价情感分析(训练篇).zip
基于Bert的中文评价情感分析.mp4
03-基于Bert的中文评价情感分析(实现篇)
day03_基于Bert的中文评价情感分析(实现篇).zip
_基于Bert的中文评价情感分析-实现.mp4
04-GPT2-中文生成模型定制化(训练篇)
04-GPT2-中文生成模型定制化(训练篇).zip
GPT2-中文生成模型定制化_训练篇.mp4
05-GPT2-中文生成模型定制化
day05学习附件.zip
GPT2-中文生成模型定制化.mp4.baiduyun.p.downloading
06-本地私有化部署大模型(Ollama&vLLM&LMDeploy
day06_本地私有化部署大模型.zip
本地私有化部署大模型.mp4
07-大模型微调(使用LLama Factory微调Qwen)
day07_大模型微调(使用LLama Factory微调Qwen).zip
08-大模型微调(LLama Factory自定义微调数据集)
day08_大模型微调(LLama Factory自定义微调数据集).zip
09-大模型微调(QLora微调&GGUF模型转换)
day09_大模型微调(QLora微调&GGUF模型转换).zip
10-大模型微调(LLamaFactory微调效果与vllm部署效果不一致如何解决)
day10_大模型微调(LLamaFactory微调效果与vllm部署效果不一致如何解决).zip
11-大模型微调分布式训练(LLama Factory与Xtuner分布式微调大模型)
day11_大模型微调分布式训练(LLama Factory与Xtuner分布式微调大模型).zip
12-大模型压缩训练(知识蒸馏)
day12_大模型压缩训练(知识蒸馏).zip
13-大模型推理部署(分布式推理与量化部署)
day13_大模型推理部署(分布式推理与量化部署).zip
14-大模型评估测试(OpenCompass)
day14_大模型评估测试(OpenCompass).zip
15-大模型微调项目实战(情绪对话模型-数据工程篇)
day15_大模型微调项目实战(情绪对话模型-数据工程篇).zip
16-大模型微调项目实战(情绪对话模型-最终效果)
day16_大模型微调项目实战(情绪对话模型-最终效果).zip
demo_16
cleaned_output.txt
data_convert.py
get_data.py
model_convert.py
.idea
workspace.xml
embedding_model
download.py
sungw111
text2vec-base-chinese-sentence
.mdl
.msc
.mv
config.json
configuration.json
eval_results.txt
model.safetensors
modules.json
README.md
sentence_bert_config.json
special_tokens_map.json
tokenizer.json
tokenizer_config.json
training_progress_scores.csv
vocab.txt
1_Pooling
zy
added_tokens.json
config_sentence_transformers.json
2_Normalize
17-Llamaindex快速构建RAG
day17_Llamaindex快速构建RAG.zip
18-Llama_indexRAG进阶_Embedding_model与Chroma
day18_Llama_indexRAG进阶_Embedding_model与ChromaDB.zip
19-Llama_indexRAG进阶_文档切分与重排序
day19_Llama_indexRAG进阶_文档切分与重排序.zip
20-Dify实现RAG
day20_Dify实现RAG.zip
21-RAGFlow
day21_RAGFlow.zip
22-基于RAG的法律条文智能助手(方案篇)
day22_基于RAG的法律条文智能助手(方案篇).zip
23-基于RAG的法律条文智能助手-实现与部署
day23_基于RAG的法律条文智能助手-实现与部署.zip
24-基于RAG的法律条文智能助手-微调与部署
day24_基于RAG的法律条文智能助手-微调与部署.zip
25-Dify构建Agent
【课件】Agent 智能体应用(Dify构建Agent).zip
26-LangGraph构建多智能体
day26_LangGraph构建多智能体.zip
27-DeepSeek原理与应用
day27_DeepSeek原理与应用.zip
28-多模态大模型应用
day28_多模态大模型应用.zip