Agent 开发如何界定能力边界与自主度？

1. 典型的 Agent 系统组件构成

一个典型的 Agent 系统由若干职责清晰的组件构成：规划模块（Planner）负责将目标拆解为子任务或生成执行计划；记忆模块（Memory）分为会话内的短期记忆与外部持久化的长期记忆；工具与接口层（Tools / Actions）让 Agent 能调用 API、查询数据库与检索知识；模型推理核心（LLM Core）承担理解、推理与决策；编排与状态管理协调流程、保存检查点；安全与治理层包含权限控制、提示注入防护、人工介入、审计与可观测性。其中"增强型 LLM"（Augmented LLM）即检索、工具、记忆三项能力叠加于基础模型之上，是最小的可运行单元。

2. 能力边界的界定原则

界定能力边界要回答"这个 Agent 到底该不该做这件事"。Anthropic 在《Building Effective Agents》中建议先找最简单的可行方案，只在必要时才增加复杂度——"这甚至可能意味着完全不构建智能体系统"，因为很多被称为 Agent 问题的需求，其实只是一次调用 LLM 加上检索与上下文示例即可解决。

3. 自主度的二维分级

自主度应按"错误代价 × 路径可预测性"两个维度分级：若流程能在白板上画出每一步分支，用工作流即可；若下一步取决于模型当下的发现，才需要 Agent。错误代价高的环节（资金、对外发送、生产数据删除）应用固定代码加人工审批兜住。判断的核心是两个问题：出错代价有多高（低意味着错了只浪费一小时，高意味着客户、付款、合同或监管会看到），以及路径是否可预测（输入相似、步骤可枚举为可预测；每个案例步骤数与顺序都不同则为不可预测）。两者组合可得决策矩阵：可预测加低代价用工作流，不可预测加低代价可用 Agent，可预测加高代价用工作流并在不可逆步骤前加人工确认，不可预测加高代价则拆分为混合方案——把不确定性交给 Agent，把风险固定为代码。

4. 立项阶段的三类清单

在立项阶段就应明确写出三类清单：Agent 允许做什么、明确禁止做什么、什么情况必须交回人类。这份清单比任何提示词都更能决定 Agent 的实际行为边界。