目录
课程简介
AI Agent 是 AI 领域最新也是最令人兴奋的发展。这门课程将带您了解 AI Agent 的原理、架构、工具和应用，从核心概念到企业落地，让您理解这个强大的新技术。
学习目标：
- 理解 AI Agent 与 Chatbot 的区别
- 掌握 Agent 的核心架构
- 了解 Tool Calling、记忆、RAG 等核心技术
- 了解多 Agent 系统和 MCP 协议
- 评估 AI Agent 的企业应用场景
21.1 AI Agent vs Chatbot
为什么学_this？
理解 Agent 和 Chatbot 的区别是基础。
核心教学
Chatbot vs Agent：
| 维度 | Chatbot | AI Agent |
|---|---|---|
| 能力 | 对话回复 | 自主执行任务 |
| 目标 | 回答问题 | 完成任务 |
| 工具 | 无 | 可以使用工具 |
| 记忆 | 短期 | 长期记忆 |
| 自主性 | 被动回应 | 主动行动 |
| 复杂度 | 低 | 高 |
什么是 AI Agent？
AI Agent 是一个能够自主思考和行动的 AI 系统。它不仅能回答问题，还能：
- 规划任务
- 使用工具（浏览器、API、数据库）
- 记住上下文
- 自主决策
Agentic AI 的核心能力：
商业范例
一家年营收 3 亿元的连锁健身品牌，旗下 12 间分店每天涌入大量会员询问与请假需求，客服仅 4 人，高峰时段平均等待超过 15 分钟，续约率因此下滑。
- Chatbot 做法：回答“我的会籍还有多久到期”等定型问题，每月处理 6,000 笔查询，准确率约 85%。
- Agent 做法：会员说“我要请假两个月并顺延会籍”，Agent 自动查合约、计算顺延日、更新系统并发送确认信，全程无人工。
- Agent 做法：侦测到会员 30 天未到馆，主动查询合约与优惠，生成个人化续约方案并推播，续约率提升 18%。
- 成果：客服人力需求降低 40%，平均响应时间从 15 分钟缩短至 90 秒。
小技巧
实操贴士
- 在 ChatGPT 先问“你能直接执行还是只给建议”，判断它是 Chatbot 还是 Agent。
- 要 Agent 行为，prompt 写“请呼叫工具并回传结果”，而非“请告诉我怎么做”。
- 用 Zapier 串接 ChatGPT 与 Gmail，让它自动分类信件，即为 Agent 雏形。
- Claude 搭配 Notion 读取资料后改写，比纯对话更接近 Agent。
- 测试时要求输出步骤与工具呼叫纪录，确认它真的执行了动作。
练习题
本节摘要
- Agent vs Chatbot：Agent 能自主执行任务，Chatbot 只能对话
- Agent 核心能力：规划、行动、记忆、反思、协作
- Agent 适合复杂任务，Chatbot 适合简单问答
我列出我每周进行的重复任务：
1. [任务A - 频率]
2. [任务B - 频率]
3. [任务C - 频率]
请按“自动化可行性 × 节省的时间”评分（1-10），排好顺序，
并为第一位建议：使用何种工具、具体步骤、需要注意的失败点。
- 我列出了至少 5 个重复任务并完成评分
- 我选择了第一个自动化目标（最高分的那个）
- 我知道这个流程的人工检查位置在哪里
- 我设定了“出错时如何处理”的备用方案
21.2 Agent 核心架构
为什么学_this？
了解 Agent 架构是设计和评估的基础。
核心教学
Agent 的核心组件：
大语言模型（LLM）
- Agent 的“大脑”
- 负责理解、推理、决策
- 如 GPT-4、Claude、Gemini
工具（Tools）
- Agent 的“双手”
- 调用外部功能
- 如搜索引擎、API、数据库
记忆（Memory）
- Agent 的“记忆”
- 短期上下文
- 长期知识
规划（Planning）
- Agent 的“策略”
- 拆解任务
- 制定步骤
执行循环（Agent Loop）
感知 → 思考 → 行动 → 观察 → 再思考...
↑_______________________↓
直到任务完成
商业范例
一家拥有 40 间门市的连锁健身中心，过去教练与柜台人员每天要花大量时间回复会员的课程、扣点与请假问题，平均等待超过 15 分钟，导致续约率下滑。
- LLM 理解需求：以模型判读会员消息意图，准确率达 92%，减少人工转接 6 成。
- 工具串接：介接会员系统与排课 API，查询回复时间由 15 分钟缩短至 20 秒。
- 记忆机制：保留对话与合约纪录，重复询问率下降 45%，满意度提升至 4.5 分。
- 规划与执行：自动完成请假、扣点与续约提醒，每月省下 300 小时人力。
小技巧
- 用 ChatGPT 产生工具清单，prompt 写“列出完成 X 所需的 5 个 API 与参数”。
- 把长期记忆存在 Notion 数据库，让 Agent 每次启动先读取。
- 规划层用 Claude 拆解步骤，要求输出 JSON 格式的任务阵列。
- 工具呼叫失败时，用 Zapier 设定重试与通知，避免流程中断。
练习题
本节摘要
- 核心组件：LLM、工具、记忆、规划、执行循环
- Agent Loop：感知 → 思考 → 行动 → 观察
- 品质取决于整体配合
21.3 Tool Calling（工具调用）
为什么学_this？
Tool Calling 让 Agent 真正“能做事”。
核心教学
什么是 Tool Calling？
Tool Calling 是让 LLM 调用外部工具的能力。Agent 可以：
- 查询数据库
- 调用 API
- 操作浏览器
- 发送邮件
- 执行程式码
Tool Calling 的工作流程：
常见工具类型：
- 数据查询：搜索、数据库、API
- 文件处理：创建、编辑、分析
- 通信：发邮件、发消息
- 自动化：操作软件、执行命令
Tool Calling Prompt 范例：
你有一个“查询订单”工具，参数是订单号。
用户说：“我的订单 #12345 到哪了？”
请调用查询订单工具，然后回报状态。
商业范例
一家拥有 12 间门市的中型连锁健身中心，过去教练需手动查询会员合约与课程剩余堂数，平均每通电话耗时 6 分钟，客服人力长期吃紧。
- 查询会员合约：自动调阅 CRM 系统，通话时间从 6 分钟缩短至 90 秒，客服处理量提升 3 倍。
- 预约课程：实时对接排课系统，自动避开教练时段冲突，每月减少 85% 重复预约错误。
- 查询剩余堂数：同步扣堂数据库，准确率达 99.5%，会员申诉案件较上月下降 40%。
- 续约提醒：侦测合约到期前 14 天自动推播，带动续约率提升 18%。
小技巧
- 在 ChatGPT 自订 GPT 时，工具名称用动词开头，如 get_weather、send_email，避免模糊命名。
- Claude 的 tool description 要写明输入格式与范例，例如“date 需为 YYYY-MM-DD”。
- 用 Zapier 接工具时，为每个 action 加上 when to use 说明，降低 Agent 误触发。
- 在 prompt 中明确写“若缺少参数，先反问使用者，不要自行猜测”。
- Notion 工具回传值保持精简，只留 id 与 title，减少 token 干扰判断。
练习题
本节摘要
- Tool Calling 让 Agent 调用外部工具
- 工作流程：LLM 决策 → 调用 → 返回 → 处理
- 工具设计清晰度影响 Agent 表现
21.4 Agent 记忆系统
为什么学_this？
记忆系统让 Agent 能记住上下文和过去的互动。
核心教学
记忆系统的三层：
短期记忆（上下文窗口）
- 当前对话的上下文
- 通常有限（LLM 的上下文窗口）
- 实时使用
工作记忆（Working Memory）
- 当前任务的关键信息
- 任务进行中保留
- 任务结束后转化
长期记忆（长期知识）
- 过去的互动和结论
- 用户偏好
- 任务历史
记忆系统的技术：
- 向量数据库：存储和检索
- 知识图谱：结构化知识
- 档案存储：结构化记录
记忆最佳实践：
商业范例
一家拥有 12 间分店的连锁健身中心，过去教练流动率高，会员续约时常因不熟悉过往训练纪录而流失，续约率仅 58%。导入 Agent 记忆系统后，柜台与线上客服能实时调阅会员完整轮廓。
- 记住会员伤病史与禁忌动作：教练咨询准备时间缩短 40%，运动伤害客诉下降 35%。
- 记住过往课程与器材偏好：课程推荐成交率提升 22%，平均客单价增加 1,800 元。
- 记住续约与请假周期：到期前 14 天主动关怀，续约率由 58% 提升至 76%。
- 记住沟通语气与目标：会员满意度分数从 3.9 升至 4.6 分（满分 5 分）。
小技巧
想让 Agent 记得你是谁、做过什么，关键在于把记忆写进可读取的结构。
- 在 ChatGPT 用“自订指示”写死固定偏好，例如“回复一律先给结论、再列三点”。
- 用 Notion 建一张“Agent 记忆表”，字段放客户名、偏好、上次结论，让 Zapier 每次自动读取。
- Claude 长对话请在开头贴上“背景摘要”，并要求它每十轮改写一次摘要。
- 把重复指令存成 prompt 范本，开新对话直接贴上，避免每次重讲一遍。
练习题
本节摘要
- 记忆三层：短期、工作、长期
- 技术：向量数据库、知识图谱
- 记忆是个性化和智能化的关键
21.5 RAG 基础
为什么学_this？
RAG 让 Agent 基于最新、准确的信息回答。
核心教学
什么是 RAG？
RAG（Retrieval-Augmented Generation）是检索增强生成技术。Agent 先从知识库检索相关信息，再基于这些信息生成答案。
RAG 的工作流程：
RAG vs Fine-tuning：
| 维度 | RAG | Fine-tuning |
|---|---|---|
| 更新速度 | 实时 | 需重新训练 |
| 成本 | 低 | 高 |
| 准确性 | 基于具体文件 | 基于训练数据 |
| 适用场景 | 知识更新频繁 | 固定风格/行为 |
RAG 的优势：
- 信息实时更新
- 减少幻觉
- 可追溯来源
- 成本较低
商业范例
一家连锁健身中心拥有 12 间分店与 40 位教练，会员经常询问课程安排、器材使用与饮食建议，但教练忙于带课，客服回复常延迟且说法不一致，导致续约率下滑。
- 做法：建立课程与器材知识库并实时同步更新，客服响应时间从 8 分钟缩短至 40 秒。
- 做法：以知识库为基础让 AI 辅助回复会员提问，回答准确率由 72% 提升至 94%。
- 做法：将常见饮食与训练问题纳入检索范围，客服一次解决率提高 35%。
- 做法：每月依对话纪录优化知识库内容，会员续约率回升 12%。
小技巧
RAG 是中小企业最实用的 AI 知识应用方式。
- 用 Notion 建知识库，汇出 CSV 后上传 ChatGPT 专案，让它只根据档案回答。
- Prompt 写法：先给角色“你是客服”，再贴资料，最后问“只依上文回答，没有就说不知道”。
- 用 Zapier 把 Gmail 新邮件自动写入 Notion，维持知识库每天更新。
- Claude 支持长文件，直接上传 PDF 手册，问“引用页码并用三点摘要”。
练习题
本节摘要
- RAG 是检索增强生成
- 流程：向量化 → 检索 → 生成
- 比 Fine-tuning 更适合知识更新
21.6 向量数据库
为什么学_this？
向量数据库是 RAG 和记忆系统的基础。
核心教学
什么是向量数据库？
向量数据库存储数据的向量化表示，支持语义搜索。它可以找到“语义相似”的内容，而不只是关键字匹配。
向量数据库的用途：
- RAG 知识检索
- 记忆存储和检索
- 相似内容推荐
- 语义搜索
主流向量数据库：
- Pinecone：云端向量数据库
- Weaviate：开源，功能丰富
- Milvus：开源，高性能
- Chroma：轻量级，适合初学者
- Qdrant：高性能，功能完善
向量数据库 vs 传统数据库：
- 传统：关键字匹配（“猫粮”）
- 向量：语义匹配（“猫咪食物”→ 也能找到“猫粮”）
商业范例
一家员工人数约 80 人的连锁健身工作室，过去教练只能凭记忆推荐课程，会员续约率长期低于 45%。导入向量数据库后，系统能语意检索会员的训练纪录与偏好，自动媒合最合适的教练与课程。
- 做法：将 3 年内 12,000 笔课程评价与会员回馈向量化，客服 Agent 检索准确率从 61% 提升至 89%。
- 做法：依会员体能标签实时推荐课程，个人化推荐点击率由 7% 成长至 22%。
- 做法：教练排课改由语意比对自动媒合，平均排课时间从 25 分钟缩短至 4 分钟。
- 做法：续约前 30 天触发相似会员成功案例推播，年度续约率提升至 63%。
小技巧
- 用 OpenAI text-embedding-3-small 生成向量，成本低且维度小，适合快速原型。
- 在 Notion 存原始文件，同步至 Pinecone 建索引，避免重复嵌入。
- 检索时加 prompt：“仅根据以下片段回答，若无答案回复不知道”。
- 用 Claude 改写查询成三种语义变体，提升召回率。
- 定期以 Zapier 触发重建索引，淘汰过期向量。
练习题
本节摘要
- 向量数据库存储语义表示
- 支持语义搜索，不只关键字匹配
- 是 RAG 和记忆系统的基础
21.7 多 Agent 系统
为什么学_this？
多 Agent 系统能处理更复杂的任务。
核心教学
什么是多 Agent 系统？
多个 AI Agent 协同工作，每个负责不同的部分，共同完成复杂任务。
多 Agent 的架构：
主管模式（Orchestrator）
- 一个主管 Agent 协调
- 分配任务给子 Agent
- 汇总结果
流水线模式（Pipeline）
- Agent 依序处理
- 每个 Agent 的输出是下一个的输入
- 适合多步骤任务
协作模式（Collaborative）
- Agent 平等协作
- 共同讨论
- 相互评价
多 Agent 的应用场景：
商业范例
一家员工人数约 300 人的连锁健身品牌，旗下 18 间分店每日涌入超过 1,200 笔咨询，涵盖课程预约、教练指定与会籍异动。过去由 6 名客服平均耗时 9 分钟处理一件，高峰时段常遗漏消息，导致每月约 140 件客诉。
- 分流 Agent：以意图分类模型判读来讯，准确率达 94%，将 85% 的咨询自动导向对应流程。
- 预约 Agent：串接场馆排程系统，实时完成课程与教练媒合，平均处理时间由 9 分钟压缩至 40 秒。
- 会籍 Agent：自动比对合约与扣款纪录，处理请假、转让与退费申请，错误率由 7% 降至 1.2%。
- 协调者 Agent：汇整跨部门例外案件并排序优先级，每月客诉量由 140 件降至 22 件。
小技巧
- 先用单一 ChatGPT 跑通流程，任务超过三个步骤再拆多 Agent。
- 在 Claude 用角色 prompt 分工，如“你是资料清理员，只回传 JSON”。
- 用 Zapier 串接 Agent 输出，设定触发条件避免重复呼叫。
- 把共用资料放 Notion 当记忆库，各 Agent 读取同一份来源。
- 用 Canva 产出视觉前，先让 Agent 确认文案与尺寸规格。
练习题
本节摘要
- 多 Agent 架构：主管、流水线、协作
- 适合复杂任务
- 简单任务用单 Agent 更高效
21.8 Agent 框架介绍
为什么学_this？
框架能加速 Agent 开发。
核心教学
主流 Agent 框架：
LangChain
- 最流行的 AI 框架
- 支持多种 LLM
- 丰富的工具集成
- 适合各种场景
LangGraph
- 基于 LangChain
- 复杂工作流
- 状态管理
- 适用于多 Agent
CrewAI
- 多 Agent 协作
- 角色分配
- 任务分配
- 适合团队协作
AutoGen（Microsoft）
- 多 Agent 对话
- 自动协调
- 程式码执行
- 适合开发场景
OpenAI Agents SDK
- OpenAI 官方
- 简单易用
- 现代化
商业范例
一家连锁健身品牌拥有 12 间分店、会员逾 3 万人，过去客服团队每天需回复超过 800 则消息，高峰时段常延迟超过 4 小时，导致续约率下滑。
- 以 LangChain 串接预约与会员系统：上线 3 个月后，自动处理 65% 的常见询问，客服人力需求降低 40%。
- 整合课程与教练数据库：查询响应时间由平均 15 分钟缩短至 20 秒内，满意度提升 22%。
- 建立对话纪录与标签机制：每月自动产出 5 份洞察报告，协助续约活动命中率提高 18%。
- 模组化流程设计：新分店导入时间从 2 周缩短至 2 天，维护成本降低约 35%。
小技巧
- 先用 ChatGPT 把需求写成流程图，再选框架。
- 在 Claude 贴官方文件，请它列出 LangChain 与 CrewAI 差异。
- 用 Notion 建框架比较表，字段含学习曲线与范例链接。
- 写 prompt 时指定“用三行说明何时改用 AutoGen”。
- 在 Zapier 串接 API，先验证流程再写程式。
练习题
本节摘要
- 框架：LangChain、LangGraph、CrewAI、AutoGen
- 初学者从 LangChain 开始
- 根据场景选择框架
21.9 MCP 协议
为什么学_this？
MCP（Model Context Protocol）是工具互通的标准。
核心教学
什么是 MCP？
MCP 是 Anthropic 提出的标准协议，让不同的 AI 系统和工具能够标准化地互通。它解决了 AI 工具碎片化的问题。
MCP 的作用：
- 标准化工具连接
- 减少重复开发
- 提升互通性
- 加速生态发展
MCP 的运作方式：
- Server：提供工具/资源的服务
- Client：使用工具的 AI 应用
- 连接：双方通过 MCP 协议沟通
MCP 的优势：
- “一次开发，处处使用”
- 工具生态标准化
- 降低整合成本
商业范例
一家连锁健身中心，旗下有 12 间分店、约 3 万名会员。过去会员资料、预约系统与教练排班各自独立，客服每天得手动切换 4 套后台，平均一通查询要花 6 分钟。
- 做法：以 MCP 串接会员管理与预约系统，客服 Agent 一次查询即回复：单笔处理时间从 6 分钟降至 40 秒。
- 做法：透过 MCP 连接金流与发票服务，自动处理续约扣款：每月减少 25 小时人工对账。
- 做法：整合教练排班与场地系统，Agent 自动媒合空档：课程预约成功率提升 18%。
- 做法：以标准化协议取代客制 API，新分店上线时间从 3 周缩短至 4 天。
小技巧
- 在 Claude Desktop 设定档加入 MCP server，即可直接呼叫本机档案与数据库。
- 用 Zapier 串接 MCP，让 ChatGPT 产出的内容自动写入 Notion 数据库。
- Prompt 写“请透过 MCP 读取我指定的 Google Sheets 并摘要”比空泛指令有效。
- 接 Canva MCP 时，先确认授权范围，避免 AI 误改团队范本。
练习题
本节摘要
- MCP 是工具互通的标准协议
- 解决 AI 工具碎片化问题
- 降低整合成本
21.10 Agent 安全与治理
为什么学_this？
Agent 的安全至关重要，特别是企业应用。
核心教学
Agent 的安全风险：
提示注入（Prompt Injection）
- 恶意输入污染 Agent 指令
- 需防范
越权行为
- Agent 执行不应执行的操作
- 需权限控制
数据泄露
- 敏感数据被泄露
- 需保护
不可控行为
- Agent 做出意外决定
- 需监督
安全最佳实践：
商业范例
一家连锁健身房的 12 间分店导入客服 Agent 后，会员常抱怨预约与退费进度查不到，且曾有员工误改合约引发纠纷。为此，他们重新设计了 Agent 的权限与治理框架。
- 查询权限分离：Agent 仅能读取会员资料与合约状态，无法修改，客诉误改案件降为 0 件。
- 高风险操作人工复核：退费与合约变更需主管确认，每月拦截 37 笔异常申请。
- 完整行为日志：所有查询与操作留存纪录，稽核追溯时间从 4 小时缩短至 15 分钟。
- 季度审计机制：每季抽查 200 笔对话，权限误用率由 8% 降至 1.2%。
小技巧
- 用最小权限原则，在 Zapier 只开必要动作，别给 Agent 完整 API 金钥。
- 在 ChatGPT 系统提示写明“高风险操作须先输出确认清单”，让人审批后才执行。
- 把 Claude 的敏感工具呼叫设为需人工核可，并记录每次输入输出以供稽核。
- 用 Notion 建立权限清单，标注每个 Agent 可存取的资料范围与到期日。
练习题
本节摘要
- 风险：提示注入、越权、数据泄露
- 最佳实践：最小权限、人工审批、日志、审计
- 安全是应用的前提
21.11 Agent 部署与监控
为什么学_this？
部署和监控确保 Agent 稳定运行。
核心教学
Agent 部署的考量：
资源需求
- LLM API 成本
- 运算资源
- 储存资源
稳定性
- 错误处理
- 重试机制
- 备援方案
监控指标
- 成功率
- 响应时间
- 错误率
- 成本
版本管理
- 版本控制
- 灰度发布
- 回滚机制
监控工具：
- LangSmith：LangChain 监控
- Langfuse：开源监控
- Weights & Biases：实验追踪
- 自订仪表盘：专属监控
商业范例
一家连锁健身房的客服 Agent 每天处理上千笔会员咨询，过去因回应延迟与错误率高，导致续约率持续下滑。导入部署与监控机制后，情况明显改善。
- 追踪任务成功率：准确率从 82% 提升至 95%，每月减少约 300 笔客诉。
- 监控运算成本：月支出控制在 180 美元以内，较原先降低 35%。
- 追踪响应时间：平均回复从 12 秒缩短至 3 秒，会员满意度提升 18%。
- 异常自动告警：系统侦测延迟超过 5 秒即通知维运，故障排除时间缩短 60%。
小技巧
部署 Agent 后，用以下做法持续监控行为与成本：
- 在 Zapier 设定错误触发器，Agent 回传失败时自动寄信通知。
- 用 Notion 建日志表，记录每次呼叫的 token 数与花费。
- 在 Claude 系统提示加上“输出前先确认工具参数”，降低误呼叫。
- 用 ChatGPT 定期汇总日志，找出高成本与重复失败的步骤。
练习题
本节摘要
- 部署考量：资源、稳定性、监控、版本
- 监控指标：成功率、时间、错误、成本
- 定期审核确保稳定
21.12 企业应用场景
为什么学_this？
了解 Agent 的企业应用，找到适合您的场景。
核心教学
Agent 的企业应用：
智能客服
- 自动处理客户查询
- 使用工具查询订单
- 24/7 服务
数据分析
- 自动分析数据
- 生成报告
- 建议行动
自动化工作流
- 自动执行多步骤任务
- 跨系统整合
- 减少人工
知识管理
- 企业知识库
- 智能搜索
- 员工助手
销售赋能
- 自动线索处理
- 个人化销售
- 预测
商业范例
一家拥有 12 间分店的中型连锁健身中心，长期面临教练排班冲突、会员流失率高达 28%，以及客服人力无法负荷每日上千则咨询的困境。
- 智能排班与调度：Agent 依教练专长、会员预约与场地容量自动生成排班表，排班冲突减少 85%，行政工时每月省下 120 小时。
- 会员流失预警：系统分析到访频率与合约周期，提前 14 天标记高风险会员并自动推送专属优惠，续约率提升 19%。
- 客服自动应答：Agent 处理课程查询、请假与器材报修等 76% 的常见问题，客服响应时间从 4 小时缩短至 3 分钟。
- 营运月报生成：每月自动汇整各分店来客数、教练产值与课程满班率，报告产出时间由 3 天降至 40 分钟。
小技巧
- 先挑客服或报告汇整这类高频场景，用 Zapier 串接 ChatGPT 做单点试点。
- Prompt 写法固定为“角色＋任务＋输出格式”，例如请 Claude 依此格式整理客诉。
- 把试点流程搬进 Notion 建追踪表，记录每次输出的准确率与人工修正次数。
- 两周后用数据决定是否扩大，别凭感觉上线。
练习题
本节摘要
- Agent 应用：客服、分析、自动化、知识、销售
- 从高价值场景开始
- 逐步扩展
21.13 课程总结
课程总结
下一步学习
- C-22 No-Code AI 自动化：不需要写程式
- C-23 RPA 流程自动化：机器人流程
- C-14 AI 工作流程自动化：实际应用
© 2026 Buddylala.ai — Build Your AI Future, Together.