可以将 LLM 比作高性能发动机,而 Agent 框架则是底盘、传动和转向系统——前者提供动力,后者将动力转化为可控的行动。单独调用 LLM API 只能获得文本输出,而框架为 LLM 配备了工具调用能力、记忆系统和执行循环,使其成为一个能够感知、规划和行动的完整系统。
LLM 本身存在固有的局限性:知识截止时间、无法访问实时数据、不能执行外部操作。Agent 框架通过工具集成层让 LLM 能够查询最新信息、操作业务系统和持久化状态。通过记忆子系统,LLM 获得了跨会话的连续身份认知。通过规划引擎,LLM 的单步推理被组织成多步的问题解决流程。
直接使用 LLM API 构建生产系统需要自行解决工具注册、错误重试、状态管理、上下文优化等一系列工程问题。Agent 框架将这些共性挑战封装为可复用的组件,开发者可以专注于业务逻辑而非底层基础设施。主流框架还提供了可观测性钩子、安全护栏和人机协作检查点等生产级能力。