黑马程序员 -AI大模型RAG与Agent智能体开发项目课

这门课解决什么问题

RAG 和 Agent 是当前大模型落地最常被提到的两条技术路线，但真正动手时会发现坑集中在几个地方：模型怎么接、向量检索怎么搭、工具调用怎么编排、上下文怎么控制。这门课以「通义千问 + Ollama」双线接入为起点，把云端 API 和本地模型两条路都走一遍，再往 RAG 检索增强和 Agent 智能体方向推进。它更像一份可对照的工程记录，而不是概念科普。

技术栈与结构脉络

课程从环境准备切入，先处理 API Key 的环境变量管理——这一步看似基础，实际是很多 demo 代码不能直接进项目的根因。接着分别演示云端大模型调用和 Ollama 本地部署（覆盖 Windows 与 macOS），让开发者理解两种推理接入方式的差异：云端看响应格式与限流，本地看模型拉取、显存占用和服务端口。

基础打通后进入 RAG 部分，核心链路是文档加载、切分、向量化、检索、拼装上下文再交给大模型生成。这条链路每一环都有工程取舍：切分粒度影响召回质量，向量库选型影响部署成本，重排策略影响最终答案准确度。课程用项目把这些环节串起来，方便你在自己的数据上复现。

Agent 部分则聚焦在工具调用与任务编排。大模型不再只是回答问题，而是根据用户意图决定调用哪个函数、按什么顺序执行、如何处理中间结果。这里涉及提示词结构设计、工具描述规范、多轮状态管理，是把「会聊天」变成「能干活」的关键一步。

可复用的模块

• 模型接入层：云端与本地模型的统一调用封装，方便后续切换供应商。
• 配置管理：API Key 与模型参数的隔离方式，避免硬编码进业务代码。
• RAG 检索管线：文档处理到上下文拼装的分步实现，可替换向量库和嵌入模型。
• Agent 工具编排：工具注册、意图路由、执行结果回填的结构化写法。

这些模块拆出来就是一套最小可用的大模型应用骨架，换个业务场景也能接着用。

怎么用这份资料

建议不要顺着视频一路看完。先跑通模型接入，确认自己的环境和 Key 能正常出结果；然后挑一个 RAG 环节单独改参数做对比实验，比如换切分长度看召回变化；最后再进 Agent，把工具换成自己业务里的接口。课程里的项目代码适合当作参照物，边改边跑比单纯观看有效得多。前置要求是对 Python 有基本熟悉度，了解 HTTP 请求和 JSON 处理即可上手。