Agent 集群面向需要运行代码、调用工具和持续处理文件的 Agent 应用,在 Kubernetes 集群中集成沙箱、工作区、网络访问控制和节点资源管理。企业既可以使用这些通用能力,也可以自主配置工作负载和云资源,将 Agent 接入已有业务平台。
平台优势
开放可组合,按业务需要配置运行环境
不同 Agent 对运行环境的要求并不相同。Coding Agent 需要构建工具和代码工作区,办公助手需要连接知识库与企业系统,训练评测则需要批量创建配置一致的任务。Agent 集群保留 Kubernetes API,让企业把这些需求放进已有的应用架构中管理。
组合方式 | 企业可以怎么用 |
工作负载组合 | 用 Deployment 承载长期服务,用 Job 执行批量任务,通过 Service 连接 Agent、业务 API 和工具服务,为需要保留文件的任务挂载工作区。 |
资源与网络组合 | 选择节点池、资源规格及任务落点,结合 VPC、企业存储和访问策略,为不同业务配置运行条件。 |
开发与运维集成 | 延续已有镜像仓库、CI/CD、GitOps、日志和监控流程,通过 Kubernetes API 将任务创建、状态读取和回收接入自研 Agent 平台。 |
企业可以统一管理 Agent 任务及配套业务服务,减少在多套管理系统之间切换。通用运行能力由产品集成,业务团队把主要精力放在 Agent 的任务逻辑和工具接入上;节点容量、工作负载配置和变更安排仍由企业根据业务决定。
使用已有 Pod 配置、Sidecar 或其他生态组件时,需要核对对应运行时的支持范围,并验证实际行为。内测期间通过新建 TKE 集群使用 AGC;复用企业的工具链和云资源体系,不等于可以直接纳管存量 TKE 集群。具体差异见 Agent 集群与普通 TKE 集群的使用差异。
从资源和工程投入两方面改善经济性
Agent 的运行成本除了计算资源,还包括高峰预留的闲置容量、反复准备环境与文件的开销,以及运行平台的建设和维护投入。评估时,应在相同任务结果、隔离要求和可用性条件下比较总体成本。
Agent 集群提供几个可着手优化的环节:
让资源配置贴合任务负载。根据 CPU、内存和文件访问特点选择节点池与任务规格,结合实际并发调整容量,避免所有任务都按同一峰值配置长期占用资源。
减少重复准备。沙箱模板、镜像加速和工作区复用分别减少系统初始化、镜像数据准备和工作文件重复加载的开销。
分别管理计算与文件。任务结束后可以释放执行环境,继续保留后续任务需要的工作区;文件持久化和安全交接仍需按存储要求完成。
复用已有建设投入。延续企业的网络、镜像、权限及运维流程,减少为每类 Agent 重建一套运行基础设施的工作。
对于峰值错开的任务,还可结合支持的原生节点使用内存压缩和节点放大:压缩适合处理的冷数据,或调整可供调度的资源规模,提高节点利用率。这些配置不增加物理 CPU 或内存,需要逐步验证任务延迟、内存压力和失败率,保留高峰余量。操作方法见 开启内存压缩 和 配置节点放大。
运行能力优势
减少批量任务的环境准备时间
代码评测、RL Rollout 和批量工具调用通常需要一次创建多个执行环境。环境准备越久,任务开始前的等待就越长。
Agent 集群使用 Cube 运行时创建沙箱。命中已准备的模板时,可以复用基础系统的初始化状态,减少每个沙箱重复启动系统及基础服务的工作。结合镜像加速,可以进一步优化镜像数据准备过程,适合频繁创建、使用后释放的短任务。
为不同任务提供独立运行环境
Agent 可能执行模型生成的代码、用户提交的脚本或第三方工具。不同信任来源的任务需要独立的执行环境,避免只依赖应用逻辑区分用户。
Cube 为每个 Pod 提供独立虚拟机和 Guest 内核。相比共享宿主机内核的普通容器,这增加了一层虚拟化隔离边界;业务代码的系统调用在各自的 Guest 内核中处理。企业仍可通过 Kubernetes 为任务配置镜像、CPU、内存和生命周期。
工作文件随任务延续,减少重复准备
Coding Agent、办公助手和数据处理 Agent 往往需要多轮任务共同完成一项工作。代码、依赖、输入资料和阶段性结果如果只保存在临时容器中,环境重建后就需要重新准备。
AgentWorkspaces 将工作文件与执行进程分开管理。应用把文件写入挂载的工作区,后续任务或重建后的环境可以继续使用同一份文件;多个 Agent 也可以按顺序接力处理,而不必通过对话传递全部文件内容。
对于反复访问同一工作目录的任务,节点本地缓存能够减少重复读取远端数据的次数,增量提交则减少整份工作区重复上传的需要。收益取决于工作集、缓存命中和读写方式;跨节点交接仍需等待旧写入方退出、数据安全提交和新节点挂载,不能直接套用同节点缓存命中的速度。
按任务需要限制网络访问
Agent 能够调用工具,也可能访问提示词或网页内容中出现的地址。企业不仅需要让 Agent 连通业务系统,还需要控制它能访问哪些服务、调用哪些接口。
Agent 集群集成 ZeroProxy,支持为受管 Agent 配置默认拒绝,再按任务放行必要的目标地址、端口及 HTTP 方法和路径。例如,办公助手可以查询指定知识库,而不获得任意访问内部管理接口的权限。应用继续使用原有目标地址,无需自行设置 HTTP 代理。
创建集群时安装组件后,还需启用业务命名空间管理、为 Pod 配置代理注入和访问策略;已有 Pod 需要重建才能接入。通过目标侧访问日志验证允许和拒绝是否生效,操作步骤见 配置默认拒绝的 Agent 网络。