前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >Flink使用中遇到的问题

Flink使用中遇到的问题

作者头像
神秘的寇先森
发布于 2020-02-19 02:53:54
发布于 2020-02-19 02:53:54
1.9K0
举报
文章被收录于专栏:Java进阶之路Java进阶之路
一、为啥checkpoint总超时

数据处理和 barrier 处理都由主线程处理,如果主线程处理太慢(比如使用 RocksDBBackend,state 操作慢导致整体处理慢),导致 barrier 处理的慢,也会影响整体 Checkpoint 的进度,在这一步我们需要能够查看某个 PID 对应 hotmethod,这里推荐两个方法: 1、 多次连续 jstack,查看一直处于 RUNNABLE 状态的线程有哪些; 2、使用工具 AsyncProfile dump 一份火焰图,查看占用 CPU 最多的栈;

二、作业失败,如何使用检查点

只需要指定检查点路径重启任务即可 bin/flink run -s :checkpointMetaDataPath [:runArgs] checkpointMetaDataPath : 这个是检查点元数据路径,并不简单是所配置的检查点的路径 参考:https://blog.csdn.net/lt793843439/article/details/89641904

三、总结下flink作业异常中断的操作流程

1、找出作业对应的jobID 2、进入hdfs对应目录,找到目录下面最新的检查点目录 3、通过指定检查点目录的方式重新启动作业 4、观察作业运行情况,如果出现内存溢出异常断开,加大内存重新启动。待作业运行稳定,查看作业最初异常中断的原因,记录下来并总结思考如何解决和避免。

四、怎么屏蔽flink checkpoint 打印的info 日志?

在log4j或者logback的配置文件里单独指定org.apache.flink.runtime.checkpoint.CheckpointCoordinator的日志级别为WARN

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
暂无评论
推荐阅读
SpringBoot 系列教程之事务不生效的几种 case
前面几篇博文介绍了声明式事务@Transactional的使用姿势,只知道正确的使用姿势可能还不够,还得知道什么场景下不生效,避免采坑。本文将主要介绍让事务不生效的几种 case
一灰灰blog
2020/02/18
7830
SpringBoot 系列教程之事务不生效的几种 case
SpringBoot 系列教程之事务隔离级别知识点小结
上一篇博文介绍了声明式事务@Transactional的简单使用姿势,最文章的最后给出了这个注解的多个属性,本文将着重放在事务隔离级别的知识点上,并通过实例演示不同的事务隔离级别下,脏读、不可重复读、幻读的具体场景
一灰灰blog
2020/02/18
2.1K0
SpringBoot 系列教程之事务隔离级别知识点小结
SpringBoot系列教程之事务传递属性
对于mysql而言,关于事务的主要知识点可能几种在隔离级别上;在Spring体系中,使用事务的时候,还有一个知识点事务的传递属性同样重要,本文将主要介绍7中传递属性的使用场景
一灰灰blog
2020/02/18
8080
SpringBoot系列教程之事务传递属性
SpringBoot 系列教程之编程式事务使用姿势介绍篇
前面介绍的几篇事务的博文,主要是利用@Transactional注解的声明式使用姿势,其好处在于使用简单,侵入性低,可辨识性高(一看就知道使用了事务);然而缺点也比较明显,不够灵活,稍不注意,可能就因为姿势不对,导致事务不生效
一灰灰blog
2020/02/18
1.4K0
SpringBoot 系列教程之编程式事务使用姿势介绍篇
SpringBoot系列教程JPA之update使用姿势
原文: 190623-SpringBoot系列教程JPA之update使用姿势 上面两篇博文拉开了jpa使用姿势的面纱一角,接下来我们继续往下扯,数据插入db之后,并不是说就一层不变了,就好比我在
一灰灰blog
2019/07/02
2.3K0
SpringBoot系列教程JPA之update使用姿势
Spring:声明式事务
Spring 框架对 JDBC 进行封装,使用 JdbcTemplate 方便实现对数据库操作
愷龍
2023/02/09
7380
Spring:声明式事务
Spring 框架对 JDBC 进行封装,使用 JdbcTemplate 方便实现对数据库操作
愷龍
2023/02/10
7360
Spring:声明式事务
SpringBoot高级篇JdbcTemplate之数据插入使用姿势详解
使用SpringBoot进行db操作引入几个依赖,就可以愉快的玩耍了,这里的db使用mysql,对应的pom依赖如
一灰灰blog
2019/05/26
4.1K1
SpringBoot系列教程JPA之delete使用姿势详解
常见db中的四个操作curd,前面的几篇博文分别介绍了insert,update,接下来我们看下delete的使用姿势,通过JPA可以怎样删除数据
一灰灰blog
2019/07/09
3.9K0
Spring学习笔记(五)——JdbcTemplate和spring中声明式事务
它是 spring 框架中提供的一个对象,是对原始 Jdbc API 对象的简单封装。spring 框架为我们提供了很多的操作模板类。 1. 操作关系型数据的: JdbcTemplate HibernateTemplate 2. 操作 nosql 数据库的: RedisTemplate 3. 操作消息队列的: JmsTemplate spring中的JdbcTemplate在 spring-jdbc-5.0.2.RELEASE.jar 中,我们在导包的时候,除了要导入这个 jar 包外,还需要导入一个 spring-tx-5.0.2.RELEASE.jar(它是和事务相关的)。
不愿意做鱼的小鲸鱼
2022/09/24
1.5K0
Spring学习笔记(五)——JdbcTemplate和spring中声明式事务
SpringBoot高级篇JdbcTemplate之数据查询上篇
环境依然借助前面一篇的配置,链接如: 190407-SpringBoot高级篇JdbcTemplate之数据插入使用姿势详解
一灰灰blog
2019/05/26
3.9K0
【SpringBoot DB系列】Mybatis多数据源配置与使用
上一篇博文介绍 JdbcTemplate 配置多数据源的使用姿势,在我们实际的项目开发中,使用 mybatis 来操作数据库的可能还是非常多的,本文简单的介绍一下 mybatis 中,多数据源的使用姿势
一灰灰blog
2021/01/17
1.5K0
【SpringBoot DB系列】Mybatis多数据源配置与使用
声明式事务
Spring 框架对 JDBC 进行封装,使用 JdbcTemplate 方便实现对数据库操作
一个风轻云淡
2022/11/13
5990
声明式事务
【Spring事务】声明式事务 使用详解
封装起来后,我们只需要在配置文件中进行简单的配置即可完成操作,可通过注解标注来使用事务。
.29.
2023/10/17
3700
【Spring事务】声明式事务 使用详解
Spring 事务使用详解
什么是事务?根据 维基百科事务 介绍,数据库事务(简称:事务)是数据库管理系统执行过程中的一个逻辑单位,由一个有限的数据库操作序列构成。简单来说,事务就是将一系列操作当成一个不可拆分的执行逻辑单元,这些要么都成功,要么都失败。事务具有4个属性:原子性、一致性、隔离性、持久性。称为ACID特性。
Java技术编程
2020/05/21
1.2K0
Spring:JDBC Template,声明式事务
JdbcTemplate 是 spring 框架中提供的一个模板对象,是对原始繁琐的 JDBC API 对象的简单封装。
RendaZhang
2020/09/16
1.2K0
Spring:JDBC Template,声明式事务
SpringBoot系列教程JPA之基础环境搭建
JPA(Java Persistence API)Java持久化API,是 Java 持久化的标准规范,Hibernate是持久化规范的技术实现,而Spring Data JPA是在 Hibernate 基础上封装的一款框架。JPA作为标准,实际上并没有说局限于某个固定的数据源,事实上mysql,mongo, solr都是ok的。接下来我们将介绍下springboot结合jpa 来实现mysql的curd以及更加复杂一点的sql支持
一灰灰blog
2019/07/02
6000
SpringBoot系列教程JPA之基础环境搭建
SpringBoot系列教程JPA之指定id保存
原文链接: 191119-SpringBoot系列教程JPA之指定id保存 前几天有位小伙伴问了一个很有意思的问题,使用 JPA 保存数据时,即便我指定了主键 id,但是新插入的数据主键却是 mysq
一灰灰blog
2019/11/21
3.1K0
SpringBoot高级篇JdbcTemplate之数据查询下篇
环境依然借助前面一篇的配置,链接如: 190407-SpringBoot高级篇JdbcTemplate之数据插入使用姿势详解
一灰灰blog
2019/05/26
2.4K0
SpringBoot 系列教程 Mybatis+注解整合篇
上一篇博文介绍了 SpringBoot 整合 mybatis 的过程,但是 xml 的方式,总感觉让人有点蛋疼;本文将介绍一种 noxml 的使用姿势,纯用注解的方式来支持 CURD
一灰灰blog
2020/01/15
4710
SpringBoot 系列教程 Mybatis+注解整合篇
推荐阅读
相关推荐
SpringBoot 系列教程之事务不生效的几种 case
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档