这门课的主题很明确:把大模型问答系统的工程链路拆开,从 RAG 的语料构建一路做到 Agent 编排,而不是停留在调 API 的层面。如果你已经能跑通一个简单的 LLM 调用,但说不清检索质量怎么评估、百万级语料怎么清洗入库、Agent 的工具调用边界在哪里,那这份资料正好可以用来对照实践。 技术栈与工程定位 课程以 RAG 问答系统为主线,围绕大模型应用…
这门课的主题很明确:把大模型问答系统的工程链路拆开,从 RAG 的语料构建一路做到 Agent 编排,而不是停留在调 API 的层面。如果你已经能跑通一个简单的 LLM 调用,但说不清检索质量怎么评估、百万级语料怎么清洗入库、Agent 的工具调用边界在哪里,那这份资料正好可以用来对照实践。
课程以 RAG 问答系统为主线,围绕大模型应用开发中几个绕不开的环节展开。语料侧涉及公有 wiki 数据的抓取与构建,量级到百万级,这里面会碰到去重、分块、元数据设计、向量化入库等具体问题;检索侧涉及召回与重排的取舍;评估侧引入了 TruLens 和 Ragas 这类框架,用来量化回答的忠实度与相关性,而不是靠肉眼看几条结果拍脑袋。生成侧覆盖到 DeepSeek V3 这类模型的接入方式,包括提示词组织和参数控制。
Agent 部分不是孤立的演示,而是接在 RAG 之后:把检索能力封装成工具,让模型自主决定何时调用、调用几次,再处理多轮状态和工具返回的解析。这种「先检索、后编排」的顺序对自学者比较友好,因为每一层都有可观测的输入输出,出问题容易定位是检索坏了还是编排逻辑错了。
企业篇的 RAG 项目是整份资料里最值得逐行读的部分。项目启动文件的说明和流程复现,实际上给了一套可以照着搭的骨架:配置管理、数据管道、检索服务、评估脚本各自分离,替换任意一环不需要动其他部分。这种分层在真实项目里很关键——语料换了、模型换了、评估指标换了,改动应该收敛在单个模块内。
看这部分代码时建议带着三个问题:数据从原始文本到向量库经历了哪些阶段,每个阶段的产物是否可缓存复用;检索结果如何与提示词拼接,上下文长度超限时怎么裁剪;评估框架是接入在管道末端还是可以作为独立步骤重跑。把这三点搞清楚,就能把这套结构迁移到自己的业务语料上。
这些模块的价值在于边界清晰。评估部分尤其容易被忽视,但它是把「能跑」变成「能维护」的分水岭——有了可重复的指标,改分块大小或换 embedding 模型时才有依据判断是变好还是变坏。
不建议从第一集顺序看到最后。更有效的方式是先跑通企业篇的项目启动流程,把最小闭环搭起来,确认数据能进、问题能答;然后回头补语料构建的细节,替换成自己关心的一批文档;接着接入评估框架,给当前效果打一个基线分数;最后再进 Agent 部分,把检索包装成工具,观察模型自主调用的行为是否符合预期。
每个阶段都留一个可验证的产物:能检索到的片段、能算出的指标、能复现的问答记录。这样即使某个环节卡住,也不会整条链路瘫痪。资料里的视频讲解偏向操作演示,配合源码对照看效率更高,遇到关键函数直接跳到实现处读参数和异常处理,比反复看演示更能建立工程直觉。
实战大模型与Agent开发,掌握问答系统核心技术
深入浅出讲解大模型与Agent开发,实战项目丰富,适合AI领域初学者及进阶者。
九天菜菜带你实战大模型与Agent开发,从RAG项目到DeepSeekV3,掌握问答系统核心技术。
🎉 祝您学习愉快!