Agent方法论-Agent核心能力与开发框架Agent 核心能力、开发框架与关键外围技术核心结论一个可落地的 Agent不只是“接上大模型”。它需要同时具备规划、记忆、工具调用与执行能力并依赖开发框架、模型服务、部署平台、评估系统和前端交互共同形成完整闭环。一、Agent 开发技术栈全景课程给出的 Agent 技术栈可以分成四层层级关键内容解决的问题Agent 类型与场景Action、Simulation、AutonomousChatbot、Multi-Agent、RAG、Planning、Reflection、EvaluationAgent 要完成什么任务、采用什么工作模式核心能力Planning、Memory、Tools、ActionAgent 如何思考、记住信息、调用外部能力并执行动作开发与运行框架LangChain / LangGraph、LlamaIndex、Semantic Kernel如何快速编排 Agent 的组件和工作流生产与外围技术Ollama、LangServe、LangSmith、Gradio、Streamlit、Docker、云托管平台如何部署、监控、评估和交付 Agent 应用整体关系可以概括为用户目标 ↓ Planning拆解与决策 ↓ Memory读取上下文与历史经验 ↓ Tools调用模型、检索、API、数据库等能力 ↓ Action执行并获得环境反馈 ↓ 更新记忆 → 评估结果 → 继续规划或结束任务二、Agent 的四项核心能力1. Planning规划规划负责回答两个问题当前目标应该如何拆解下一步应该做什么课程将规划能力拆为两个层面Prompt 层为 LLM 赋予合适的角色提供充分上下文例如从 Memory 中读取历史状态使用思维链Chain-of-ThoughtCoT等策略帮助模型组织推理过程。Agent 层根据目标、状态和工具反馈动态决定下一步行动必要时重新规划而不是机械执行最初方案。规划并不意味着步骤越多越好。生产环境通常还要限制最大迭代次数、总耗时和 Token 成本避免 Agent 陷入无休止循环。2. Memory记忆记忆用于维持任务连续性并为后续决策提供上下文。类型常见实现适用信息短期记忆Short-term Memory内存、会话上下文、当前状态对象当前对话、临时变量、中间执行结果长期记忆Long-term Memory向量数据库、持久化数据库、知识库历史经验、用户偏好、跨会话资料工程中需要同时关注记忆的写入条件、检索策略、压缩方式和淘汰机制。无限追加上下文会导致成本升高、响应变慢并可能让真正重要的信息被噪声淹没。3. Tools工具工具是 Agent 与外部世界交互的接口常见形式包括搜索、RAG 与向量检索数据库查询与数据分析第三方 API 和企业内部服务文件读写、代码执行与自动化操作其他专业 Agent。工具定义应至少包含工具名称 清晰描述 输入参数 Schema 返回值结构 权限边界 超时策略 异常处理工具描述越明确模型越容易做出正确选择多个工具功能重叠时应通过边界说明和示例减少误调用。4. Action执行Action 负责把模型的决策转化为真实操作并将执行结果反馈给 Agent。完整闭环通常是生成行动 → 校验参数 → 调用工具 → 获取结果 → 更新状态/记忆 → 评估结果 → 决定继续或结束生产系统中执行层还要加入权限控制、幂等、重试、超时、审计和人工确认机制。尤其是写数据、发消息、付款等高风险操作不能仅依赖模型的一次判断。三、三类主流开发框架1. LangChain / LangGraphLangChain 是较完整的 LLM 应用开发框架覆盖模型接入、Prompt、检索、工具、Agent、测试与部署等环节。LangGraph 则更适合用图结构和状态机描述复杂工作流例如课程展示的两个 Agent 协作流程START → Agent A → 路由判断 → Agent B / 工具节点 ↑ ↓ └──── 状态回传 ────┘ ↓ END它的优势是流程、状态、条件分支和循环关系更明确适合多 Agent、长流程以及需要中断恢复的任务。2. LlamaIndexLlamaIndex早期名称为 GPT Index定位为面向 LLM 应用的数据框架重点能力包括数据连接器数据解析与结构化索引构建高级检索接口与外部应用框架集成。它特别适合企业知识库、复杂 RAG以及需要把多种私有数据源接入 Agent 的场景。3. Semantic KernelSemantic Kernel 是 Microsoft 开源的 AI 应用开发框架主要用于把 LLM 能力集成到现有软件系统中。它强调插件化能力、流程编排和企业应用集成适合 Microsoft / Azure 技术生态以及需要与既有业务代码深度结合的项目。框架选型对比框架主要优势更适合的场景LangChain / LangGraph生态完整、组件丰富、图式工作流清晰通用 Agent、多 Agent、复杂状态流转LlamaIndex数据接入、索引和检索能力突出企业知识库、RAG、私有数据驱动应用Semantic Kernel企业集成和 Microsoft 生态友好.NET / Azure 项目、既有系统智能化改造框架只是工程加速器。选型时应优先考虑任务类型、数据形态、团队技术栈、部署环境和可观测性要求而不是单纯比较功能数量。四、生产部署与评估1. Ollama本地模型托管Ollama 提供下载、运行和管理开源大模型的工具与服务适合快速搭建本地或私有化模型服务。典型价值降低本地运行模型的配置成本统一模型拉取、启动和管理方式数据不必离开本地环境便于开发阶段快速切换和验证不同模型。2. LangServe把 LangChain 应用发布成 APILangServe 可以将 LangChain Runnable 快速部署为 REST API并结合 FastAPI 与 Pydantic 提供服务路由和数据校验。LangChain / LangGraph 应用 ↓ LangServe 封装为 REST API ↓ Web 前端 / 移动端 / 企业系统 / Python Client 调用这样可以把 Agent 核心逻辑与具体客户端解耦更利于测试、扩缩容和多端复用。3. LangSmith监控、调试与评估复杂 Agent 的问题往往不是“有没有输出”而是难以确认它为什么选错工具、在哪一步开始偏离以及哪次检索带来了错误上下文。LangSmith 主要用于记录模型、工具和链路调用轨迹可视化调试 Agent 的执行过程构建数据集并进行自动化评估对 RAG 的检索与回答质量进行评估比较不同模型、Prompt 和工作流版本。它可以独立于 LangChain 使用。生产环境还应结合成功率、延迟、Token 成本、工具错误率和人工接管率等指标进行综合评估。五、关键外围技术1. Gradio快速搭建演示界面Gradio 适合用少量 Python 代码为模型或 Agent 构建交互界面常见组件包括 Chatbot、文本处理、图像生成和数据展示。适用场景模型 Demo、内部验证、算法成果展示和快速收集反馈。2. Streamlit构建更完整的数据应用当页面需要复杂布局、图表、表格、筛选器和状态交互时可以使用 Streamlit。它适合数据分析 Agent、研究助手和内部运营工具。3. Docker统一运行环境Docker 用于封装 Agent 应用及其依赖解决不同环境之间的运行差异并为后续部署提供统一交付物。代码 Python 依赖 系统依赖 配置约定 ↓ Docker Image ↓ 开发环境 / 测试环境 / 云服务器保持一致需要注意Docker 只解决环境封装问题生产系统仍需考虑配置管理、密钥管理、日志、监控、资源限制和服务编排。4. 云托管平台云托管可以进一步提供持续部署、弹性扩缩容、域名和监控等能力。是否上云应结合数据合规、模型资源、访问规模和运维成本决定。六、从原型到生产的推荐路径1. 明确目标与成功指标 ↓ 2. 设计 Planning / Memory / Tools / Action ↓ 3. 用 LangChain、LlamaIndex 或 Semantic Kernel 构建原型 ↓ 4. 用 Gradio / Streamlit 完成交互验证 ↓ 5. 使用 Ollama 或云模型服务提供推理能力 ↓ 6. 通过 LangServe 等方式暴露 API ↓ 7. 使用 LangSmith 及业务指标持续评估 ↓ 8. Docker 化并部署到目标环境七、工程落地检查清单规划是否定义最大步数、重规划条件和停止条件记忆哪些信息进入短期记忆哪些需要长期保存工具输入输出是否结构化异常和超时是否可恢复执行高风险动作是否需要权限校验或人工确认框架是否符合团队技术栈能否支持调试和状态恢复模型服务采用云端模型还是 Ollama 等私有化方案评估是否同时评估正确率、完成率、延迟、成本和安全性交付前端、API、容器和部署方式是否能够稳定协作可观测性能否追踪一次任务中的模型调用、工具参数和路由决策总结本节课程可以浓缩为下面这条工程链路Agent 产品 核心能力Planning Memory Tools Action 开发框架 模型服务 评估平台 前端与部署体系核心能力决定 Agent 能否完成任务开发框架决定研发效率模型托管和 API 服务决定系统能否运行评估、前端、容器化与云平台则决定它能否真正交付并持续维护。 Agent方法论-核心能力与开发框架
Agent方法论-Agent核心能力与开发框架Agent 核心能力、开发框架与关键外围技术核心结论一个可落地的 Agent不只是“接上大模型”。它需要同时具备规划、记忆、工具调用与执行能力并依赖开发框架、模型服务、部署平台、评估系统和前端交互共同形成完整闭环。一、Agent 开发技术栈全景课程给出的 Agent 技术栈可以分成四层层级关键内容解决的问题Agent 类型与场景Action、Simulation、AutonomousChatbot、Multi-Agent、RAG、Planning、Reflection、EvaluationAgent 要完成什么任务、采用什么工作模式核心能力Planning、Memory、Tools、ActionAgent 如何思考、记住信息、调用外部能力并执行动作开发与运行框架LangChain / LangGraph、LlamaIndex、Semantic Kernel如何快速编排 Agent 的组件和工作流生产与外围技术Ollama、LangServe、LangSmith、Gradio、Streamlit、Docker、云托管平台如何部署、监控、评估和交付 Agent 应用整体关系可以概括为用户目标 ↓ Planning拆解与决策 ↓ Memory读取上下文与历史经验 ↓ Tools调用模型、检索、API、数据库等能力 ↓ Action执行并获得环境反馈 ↓ 更新记忆 → 评估结果 → 继续规划或结束任务二、Agent 的四项核心能力1. Planning规划规划负责回答两个问题当前目标应该如何拆解下一步应该做什么课程将规划能力拆为两个层面Prompt 层为 LLM 赋予合适的角色提供充分上下文例如从 Memory 中读取历史状态使用思维链Chain-of-ThoughtCoT等策略帮助模型组织推理过程。Agent 层根据目标、状态和工具反馈动态决定下一步行动必要时重新规划而不是机械执行最初方案。规划并不意味着步骤越多越好。生产环境通常还要限制最大迭代次数、总耗时和 Token 成本避免 Agent 陷入无休止循环。2. Memory记忆记忆用于维持任务连续性并为后续决策提供上下文。类型常见实现适用信息短期记忆Short-term Memory内存、会话上下文、当前状态对象当前对话、临时变量、中间执行结果长期记忆Long-term Memory向量数据库、持久化数据库、知识库历史经验、用户偏好、跨会话资料工程中需要同时关注记忆的写入条件、检索策略、压缩方式和淘汰机制。无限追加上下文会导致成本升高、响应变慢并可能让真正重要的信息被噪声淹没。3. Tools工具工具是 Agent 与外部世界交互的接口常见形式包括搜索、RAG 与向量检索数据库查询与数据分析第三方 API 和企业内部服务文件读写、代码执行与自动化操作其他专业 Agent。工具定义应至少包含工具名称 清晰描述 输入参数 Schema 返回值结构 权限边界 超时策略 异常处理工具描述越明确模型越容易做出正确选择多个工具功能重叠时应通过边界说明和示例减少误调用。4. Action执行Action 负责把模型的决策转化为真实操作并将执行结果反馈给 Agent。完整闭环通常是生成行动 → 校验参数 → 调用工具 → 获取结果 → 更新状态/记忆 → 评估结果 → 决定继续或结束生产系统中执行层还要加入权限控制、幂等、重试、超时、审计和人工确认机制。尤其是写数据、发消息、付款等高风险操作不能仅依赖模型的一次判断。三、三类主流开发框架1. LangChain / LangGraphLangChain 是较完整的 LLM 应用开发框架覆盖模型接入、Prompt、检索、工具、Agent、测试与部署等环节。LangGraph 则更适合用图结构和状态机描述复杂工作流例如课程展示的两个 Agent 协作流程START → Agent A → 路由判断 → Agent B / 工具节点 ↑ ↓ └──── 状态回传 ────┘ ↓ END它的优势是流程、状态、条件分支和循环关系更明确适合多 Agent、长流程以及需要中断恢复的任务。2. LlamaIndexLlamaIndex早期名称为 GPT Index定位为面向 LLM 应用的数据框架重点能力包括数据连接器数据解析与结构化索引构建高级检索接口与外部应用框架集成。它特别适合企业知识库、复杂 RAG以及需要把多种私有数据源接入 Agent 的场景。3. Semantic KernelSemantic Kernel 是 Microsoft 开源的 AI 应用开发框架主要用于把 LLM 能力集成到现有软件系统中。它强调插件化能力、流程编排和企业应用集成适合 Microsoft / Azure 技术生态以及需要与既有业务代码深度结合的项目。框架选型对比框架主要优势更适合的场景LangChain / LangGraph生态完整、组件丰富、图式工作流清晰通用 Agent、多 Agent、复杂状态流转LlamaIndex数据接入、索引和检索能力突出企业知识库、RAG、私有数据驱动应用Semantic Kernel企业集成和 Microsoft 生态友好.NET / Azure 项目、既有系统智能化改造框架只是工程加速器。选型时应优先考虑任务类型、数据形态、团队技术栈、部署环境和可观测性要求而不是单纯比较功能数量。四、生产部署与评估1. Ollama本地模型托管Ollama 提供下载、运行和管理开源大模型的工具与服务适合快速搭建本地或私有化模型服务。典型价值降低本地运行模型的配置成本统一模型拉取、启动和管理方式数据不必离开本地环境便于开发阶段快速切换和验证不同模型。2. LangServe把 LangChain 应用发布成 APILangServe 可以将 LangChain Runnable 快速部署为 REST API并结合 FastAPI 与 Pydantic 提供服务路由和数据校验。LangChain / LangGraph 应用 ↓ LangServe 封装为 REST API ↓ Web 前端 / 移动端 / 企业系统 / Python Client 调用这样可以把 Agent 核心逻辑与具体客户端解耦更利于测试、扩缩容和多端复用。3. LangSmith监控、调试与评估复杂 Agent 的问题往往不是“有没有输出”而是难以确认它为什么选错工具、在哪一步开始偏离以及哪次检索带来了错误上下文。LangSmith 主要用于记录模型、工具和链路调用轨迹可视化调试 Agent 的执行过程构建数据集并进行自动化评估对 RAG 的检索与回答质量进行评估比较不同模型、Prompt 和工作流版本。它可以独立于 LangChain 使用。生产环境还应结合成功率、延迟、Token 成本、工具错误率和人工接管率等指标进行综合评估。五、关键外围技术1. Gradio快速搭建演示界面Gradio 适合用少量 Python 代码为模型或 Agent 构建交互界面常见组件包括 Chatbot、文本处理、图像生成和数据展示。适用场景模型 Demo、内部验证、算法成果展示和快速收集反馈。2. Streamlit构建更完整的数据应用当页面需要复杂布局、图表、表格、筛选器和状态交互时可以使用 Streamlit。它适合数据分析 Agent、研究助手和内部运营工具。3. Docker统一运行环境Docker 用于封装 Agent 应用及其依赖解决不同环境之间的运行差异并为后续部署提供统一交付物。代码 Python 依赖 系统依赖 配置约定 ↓ Docker Image ↓ 开发环境 / 测试环境 / 云服务器保持一致需要注意Docker 只解决环境封装问题生产系统仍需考虑配置管理、密钥管理、日志、监控、资源限制和服务编排。4. 云托管平台云托管可以进一步提供持续部署、弹性扩缩容、域名和监控等能力。是否上云应结合数据合规、模型资源、访问规模和运维成本决定。六、从原型到生产的推荐路径1. 明确目标与成功指标 ↓ 2. 设计 Planning / Memory / Tools / Action ↓ 3. 用 LangChain、LlamaIndex 或 Semantic Kernel 构建原型 ↓ 4. 用 Gradio / Streamlit 完成交互验证 ↓ 5. 使用 Ollama 或云模型服务提供推理能力 ↓ 6. 通过 LangServe 等方式暴露 API ↓ 7. 使用 LangSmith 及业务指标持续评估 ↓ 8. Docker 化并部署到目标环境七、工程落地检查清单规划是否定义最大步数、重规划条件和停止条件记忆哪些信息进入短期记忆哪些需要长期保存工具输入输出是否结构化异常和超时是否可恢复执行高风险动作是否需要权限校验或人工确认框架是否符合团队技术栈能否支持调试和状态恢复模型服务采用云端模型还是 Ollama 等私有化方案评估是否同时评估正确率、完成率、延迟、成本和安全性交付前端、API、容器和部署方式是否能够稳定协作可观测性能否追踪一次任务中的模型调用、工具参数和路由决策总结本节课程可以浓缩为下面这条工程链路Agent 产品 核心能力Planning Memory Tools Action 开发框架 模型服务 评估平台 前端与部署体系核心能力决定 Agent 能否完成任务开发框架决定研发效率模型托管和 API 服务决定系统能否运行评估、前端、容器化与云平台则决定它能否真正交付并持续维护。