AI大模型RAG项目实战课

围绕企业知识库的 RAG 实战主线

这门课关注的不是单独调用一次大模型，而是如何把企业内部的文档、制度、产品资料或业务知识，整理成可以被检索和引用的知识库，再通过 RAG 流程交给模型生成更可靠的回答。它要解决的核心问题是：通用模型并不知道你的私有资料，也不一定能够持续掌握更新后的内容；如果只依赖提示词，往往会遇到上下文过长、答案缺少依据、资料更新困难以及敏感数据不方便外发等工程问题。

课程内容以实际部署和应用搭建为线索，将知识库、检索增强生成、智能体和模型服务放在同一个项目场景中理解。学习时可以把它看成一条完整链路：准备模型运行环境，部署应用平台，接入本地或私有模型，导入资料形成知识库，再设计问答流程和智能体行为。这样的内容更适合对照终端操作、配置过程和运行结果学习，而不是只记概念名称。

技术栈与项目结构应该怎样理解

资料中的技术组合具有较强的工程代表性。Dify承担应用编排、知识库管理和智能体配置等工作，Docker用于搭建相对独立、便于迁移的部署环境，Ollama提供本地模型运行入口，DeepSeek则作为可接入的模型能力来源之一。学习重点不在于背诵某个平台的按钮位置，而在于弄清楚各组件之间的边界：模型负责理解和生成，知识库负责资料管理与召回，应用平台负责流程编排，部署层负责把这些服务稳定运行起来。

在 RAG 项目中，数据流通常可以拆成几个可复用阶段。首先是文档进入系统后的解析、切分和索引，其次是用户问题被转换为检索请求，然后系统从知识库中找出相关片段，最后将问题与检索结果组合为模型上下文并生成回答。智能体则是在此基础上增加任务判断、工具调用和多步骤执行能力。掌握这套结构后，即使未来替换模型、改用其他向量存储或更换应用编排工具，也能按照相同思路重新搭建。

适合什么基础，建议先看哪些内容

这门课适合已经接触过 Python 或其他后端开发、了解接口调用和基本 Linux 操作的学习者，也适合正在尝试本地运行大模型、搭建内部问答工具的开发者。完全没有编程经验的人也可以观看，但需要先补充 HTTP 请求、JSON 数据结构、命令行、环境变量和容器的基础概念，否则在遇到端口、服务地址、模型连接失败等问题时，容易只会重复操作，难以定位原因。

建议先看课程对整体方案和部署方式的说明，先建立“模型服务、应用平台、知识库、用户请求”之间的关系。之后优先练习 Docker 环境安装与平台启动，再学习如何让应用平台连接 Ollama 这类本地模型服务，最后再处理私有模型接入和智能体配置。不要一开始就急着调整复杂提示词，先确认服务能启动、模型能返回结果、知识库能完成召回，再逐层增加功能，这样更符合实际项目的排错顺序。

• 第一阶段：理解 RAG 与普通大模型问答的差别，明确哪些问题应该交给检索，哪些问题应该交给模型。
• 第二阶段：完成本地部署，检查容器状态、网络连通性、模型服务地址和调用权限。
• 第三阶段：创建知识库并导入少量可控资料，观察切分、召回和回答引用之间的关系。
• 第四阶段：配置智能体流程，比较固定问答链路与带有判断、工具调用的流程差异。

通过实践掌握哪些可复用模块

学习过程中可以重点拆出几个能够迁移到其他项目的模块。第一是模型接入模块，负责统一管理模型名称、服务地址、鉴权方式和生成参数；第二是知识库模块，关注文档清洗、分段策略、召回数量和相关性；第三是提示词与上下文组装模块，决定怎样把检索到的内容交给模型；第四是智能体模块，用于处理多轮任务、条件判断以及不同工具之间的协作。

这些模块之间需要保持清晰边界。例如，回答不准确时，不应直接认定是模型能力不足，也可能是文档切分过碎、召回内容不相关、上下文拼接顺序不合理，或者提示词没有要求模型区分资料事实与自行推测。通过逐项验证，可以建立一套可重复的调试方法：先单独确认知识库是否找到正确片段，再检查模型是否正确利用片段，最后评估智能体在多步骤任务中是否按预期行动。

如果把课程中的企业知识库场景进一步抽象，便可以延伸出产品说明问答、内部制度查询、技术文档助手、售后支持和研发资料检索等应用。它们的共同点不是界面相同，而是都需要处理私有资料接入、检索质量、模型响应和权限边界。理解这些共性，比单纯完成一次演示更有价值。

资料配合练习与独立开发建议

资料不适合只按播放顺序被动观看，比较有效的方式是每看完一个主题就暂停复现，并记录实际环境中的关键变量，例如模型服务地址、容器端口、连接方式和知识库配置。首次练习时建议只准备一组结构清晰、篇幅适中的资料，先验证“提问—检索—生成”的最小闭环，再逐步加入不同格式、重复内容和版本差异明显的文档。

练习时可以为同一个问题设计三种对照：不接知识库时模型如何回答，只接知识库但不调整提示词时如何回答，以及加入明确引用要求和拒答规则后如何变化。再选择几个资料中没有答案的问题，观察系统是否会胡乱补全。这样的对照能够帮助你判断 RAG 的价值，也能暴露知识库召回不足、上下文污染和模型幻觉等问题。

完成学习和复现后，具备独立搭建一个本地或私有环境下的知识库问答原型的基础能力，可以自行部署应用平台，连接本地模型服务，建立面向指定资料的检索问答流程，并根据回答质量调整文档处理、召回策略和提示词。进一步实践时，还可以加入用户权限、资料更新、日志记录、评测问题集和人工反馈，把一次性的演示逐步改造成可维护的内部工具。

建议最终整理一份属于自己的项目说明，写清楚系统架构、模型来源、资料范围、部署步骤、常见故障和评测结果。这样既能检验是否真正理解了各组件的作用，也方便日后替换模型、迁移机器或扩展智能体能力。对于需要源码、教程和工程参考的开发者来说，这种边看边搭、边测边改的方式，才是这份 RAG 实战资料更适合发挥作用的使用方法。