CheckPoint Dir 路径下引发的一些问题

Thu, 04 Jun 2020 22:36:13 -0700 

Hi everyOne 有一个关于CheckPoint相关的一个问题:
1.我在项目中使用的状态后端为:Fsstatebackend
2.我在jobManager的log输出找到相应的job ID后 去对应的HDFS 找到了对应的chk目录
3.但我有两个疑问:
3.1.没有设置 chk的存储数默认是多保留多少份呢(我这边看到保留了近20次的chk)?
3.2 当我点进具体的chk-id 后 发现有很多文件[见2图] 我清楚的是当任务发生异常后tesk 会从hdfs 将_metadata
下载后进行任务恢复操作的,那其他的哪些文件是如何产生的?以及有什么作用呢?
期待回复:😀😀

[image: image.png]
[image: image.png]

回复