Hi Yang

checkpoint执行时间长,具体是同步阶段还是异步阶段长呢,亦或是同步+异步时间不长但是end-to-end 时间长呢?
如果是异步阶段时间长,一般是因为使用的DFS性能较差。
如果各个阶段时间均不长,但是总体时间很长,很有可能还是因为反压(如果启用了exactly once 
checkpoint,可以观察是否buffered的数据很多)

kafka数据源积压的数据多,不就是说明source端存在延迟么,这种说明整体作业还是处于反压的状态,需要定位一下究竟是哪里在反压,不一定与使用FsStateBackend有直接关系。

祝好
唐云
________________________________
From: Yang Peng <[email protected]>
Sent: Monday, August 10, 2020 15:55
To: user-zh <[email protected]>
Subject: Flink任务大状态使用filesystem反压

  Hi,咨询各位一个问题,我们线上任务使用rocksdb作为statebackend
时间久了发现会出现反压,查看服务器监控发现机器io经常是满的,为了保证业务稳定性,现在将statebackend改为filesystem,但是发现已经配置了很大的内存,使用filesystem之后执行cp时间特别长,而且kafka数据源积压很大,大家有遇到这种情况的吗?是使用filesystem的姿势不对吗?

回复