模型能力快速提升,但自主智能体的实际可靠性并未同步增长。智能体常犯"本不该犯的错":用错 API 、忽略项目既有规范、跑偏整体架构、遗漏边界条件。反复纠正、反复出错,成为规模化应用的主要障碍。
随着智能体代码产出吞吐量的上升,人类 QA 产能成为固定瓶颈。OpenAI 在内部实践中发现,若不加以管控,团队曾每周花费一天(约 20% 工时)手动清理" AI 残渣",这种方式显然不可扩展。
智能体会复现代码库中已存在的模式,包括不均衡或不理想的写法,随时间推移不可避免地导致架构漂移与技术债累积。若仅以反应式方式逐次修补,问题会持续扩散。
驾驭工程的核心洞察在于:智能体的可靠性不取决于更换更强的模型,而取决于围绕模型搭建的控制系统。同一模型仅通过优化 Harness( 系统提示词、工具配置与中间件 ),在基准测试中的表现即可大幅提升。