AI agent 大模型实战之本地部署及调用大模型ollama

文章摘要

已有 137 人浏览发布 2026-01-24 更新 2026-09-24

这门课解决的核心问题是：如何在本地快速部署大语言模型，并利用 LangChain 将其封装为可复用的 AI Agent 接口。对于具备 Python 基础、了解 REST API 以及有本地开发环境需求的开发者来说，这门课提供了从底层运行环境搭建到上层应用调用的完整工程参考。它不解决"如何看视频"的问题，而是解决"如何把大模型真正跑进自己的项目"这个实际痛点。课程从安装 Ollama、拉取模型起步，再到用 Python 发起请求、解析响应，最后构建具备工具调用能力的 Agent，整条链路都围绕"跑通"展开，而非停留在概念科普。

学习顺序与门槛

建议按本地部署与 Ollama 调用、LangChain 集成、Agent 编排三个层次推进。第一层聚焦环境搭建与基础调用，包括安装 Ollama、通过命令行拉取模型、发起提问并解析返回结果；第二层引入 LangChain 生态，学习使用 `uv add langchain-ollama` 引入依赖，掌握 `OllamaLLM` 与 `ChatPromptTemplate` 的组合方式，构建自定义提示词模板；第三层则将模型能力升级为 Agent，实现工具调用与自主决策。前置门槛是 Python 能独立写脚本、熟悉命令行操作，以及对大模型 API 调用有初步认知即可。课程不会陷入模型原理的科普，而是直接进入工程链路。整体节奏建议按第一、二层 40% 的时间投入，第三层留足练习时间，避免急于求成。

学完产出与资料配合

学完这门课，你将能够独立完成大模型的本地拉取与运行，并写出调用大模型进行逻辑推理的 Python 代码。更重要的是，你不再停留在"提问"层面，而是能够基于 LangChain 构建具备工具调用能力的 AI Agent，实现自主决策与交互。资料包配合源码与可直接运行的代码片段，支持你边学边练。课程中的练习环节会引导你完成 `ollama run` 的基础提问，以及通过 `uv add langchain-ollama` 引入依赖并使用 `OllamaLLM` 和 `ChatPromptTemplate` 构建自定义提示词与 Agent 逻辑。不要只停留在理论，跟着代码跑通每一行，把大模型部署与调用的工程链路刻进脑子里，才是掌握这项技术的捷径。

https://ollama.com/

下载安装

可以安装各种大模型

安装
ollama run deepseek-r1:7b

提问 1+2+3 一直加到50等于多少

python 调用当前大模型

安装 langchain-ollama
uv add langchain-ollama from langchain_core.prompts import ChatPromptTemplate
from langchain_ollama.llms import OllamaLLM template = """Question: {question} Answer: Let's think step by step.""" prompt = ChatPromptTemplate.from_template(template) model = OllamaLLM(model="deepseek-r1:7b") chain = prompt | model resp = chain.invoke({"question": "你是谁?"})
print(resp) # 流式打印
resp = chain.stream({"question": "你是谁?"})
for chunk in resp: print(chunk,end="")

AI agent 大模型实战之 本地部署及调用大模型ollama

学习顺序与门槛

学完产出与资料配合

AI agent 大模型实战之本地部署及调用大模型ollama