首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >腾讯云发布Agent Runtime,以存算分离破解部署困境

腾讯云发布Agent Runtime,以存算分离破解部署困境

原创
作者头像
IT前沿资讯站
发布2026-06-11 11:02:41
发布2026-06-11 11:02:41
1750
举报

传统架构无法满足AI Agent长生命周期运行需求

当前,基于微服务和Serverless(如Kubernetes容器、云函数Lambda)的架构在处理AI Agent时存在根本性不匹配。其核心矛盾在于:Serverless实例的生命周期由HTTP连接决定(连接断开即实例销毁),但AI Agent任务通常具有超过30分钟的长生命周期,且需要中间暂停、实时流式输出、断网换设备后能恢复。这种错配导致企业部署Agent时面临五大妥协:

  • 成本浪费:为保持连接需实例常驻,造成实际计算资源浪费高达18倍
  • 状态丢失风险:用户离开页面或连接中断即导致任务中断,中间状态全部丢失。
  • 冷启动性能劣化:依赖NFS等远程存储进行状态持久化,导致冷启动延迟增加5-6秒
  • 扩缩容错配:基于请求数的扩缩容无法反映真实计算压力。
  • 恢复机制脆弱:流式输出将用户与特定实例绑定,恢复过程复杂易失败。

以存算分离的沙箱架构实现Agent的云原生化

腾讯云Agent Runtime提出将通信层与执行层解耦的核心方案,构建新一代Agent基础设施:

  • 架构解耦:通信网关(永远在线、即时响应)与Sandbox执行层(按需使用、可暂停恢复)通过消息队列分离。
  • 核心技术:采用沙箱(Sandbox)作为执行单元,具备强隔离的完整Linux环境、毫秒级启动能力,支持海量创建与暂停。
  • 生命周期管理:Agent生命周期绑定于“任务”而非HTTP连接,支持显式结束或超时销毁,并提供暂停免费、秒级唤醒的计费模式。

关键性能指标与客户价值

该架构通过存算分离解决了Local First单体架构的资源浪费问题:

  • 资源利用率提升:避免了为保持连接而让整个执行实例常驻,消除了18倍的成本浪费
  • 状态管理优化:任务中间状态可持续保存,断网或换设备后任务可无缝恢复,提升用户体验。
  • 弹性与效率:按真实计算压力进行资源调度,冷启动性能显著提升。

招商证券量化交易Agent部署实践

招商证券在量化交易策略回测场景中应用Agent Runtime:

  • 业务挑战:回测任务运行时间长(数小时至数天),传统Serverless架构因连接超时导致任务频繁中断,且NFS挂载延迟影响回测效率。
  • 解决方案:采用Agent Runtime的沙箱模式,将策略计算逻辑部署于独立Sandbox,通信通过网关管理。
  • 成效:任务中断率降低至接近零,回测数据加载时间减少,资源成本较原Kubernetes方案下降约60%

腾讯云Agent Runtime的技术确定性

腾讯云Agent Runtime基于内部大规模AI业务验证,提供全链路可观测、身份与凭证托管、工具集成(MCP)等企业级能力。其沙箱技术保障了安全隔离与依赖管理,支撑AI Agent从开发调试到规模化部署的全生命周期管理,为金融、客服、研发等场景提供高可靠、低成本的Agent基础设施。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 传统架构无法满足AI Agent长生命周期运行需求
  • 以存算分离的沙箱架构实现Agent的云原生化
  • 关键性能指标与客户价值
  • 招商证券量化交易Agent部署实践
  • 腾讯云Agent Runtime的技术确定性
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档