前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >WeData执行资源组过载

WeData执行资源组过载

原创
作者头像
用户10546873
修改2024-05-20 16:38:36
1180
修改2024-05-20 16:38:36

问题现象:

调度、集成资源组内存使用率持续高于阈值80%;

项目执行资源组-->调度资源,通过告警资源组名称点进去,查看内存使用率(%)监控

项目执行资源组-->集成资源-->监控,查看内存使用率(%)监控

可能影响:
  • 内存资源不足,任务无法下发,产生阻塞
  • 资源组pod节点内存过高,容易导致pod重启,任务重新运行,影响产出时间
处理建议:
  • 适用于所有资源组,检查资源组监控,若发现以下情况,建议增加资源包

1. 业务高峰期间,内存长时间处于打满状态,且任务无法按要求时间产出。

  • 适用于集成资源组

1. 对于写入hive/dlc/iceberg数据源,且数据量较大(百万级以上)场景,建议资源包规格升级为8c32g,资源包数量不小于2个。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 可能影响:
  • 处理建议:
相关产品与服务
数据开发治理平台 WeData
数据开发治理平台 WeData(以下简称 WeData)是位于云端的一站式数据开发治理平台,融合了包含数据集成、数据开发、任务运维的全链路DataOps数据开发能力,以及数据地图、数据质量、数据安全等一系列数据治理和运营能力,帮助企业在数据构建和应用的过程中实现降本增效,数据价值最大化。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档