你是在batch模式下手动开启了checkpoint吗

> 2024年2月2日 17:11,ha.fen...@aisino.com 写道:
> 
> 今天正好测试了这个问题,开启checkpoint后,读取一个文件内容,在checkpoints有记录时,停止程序,然后再从checkpoint读取启动,读取的记录并不是从最开始,这说明批处理下也会自动保存状态。
> 
> 发件人: jinzhuguang
> 发送时间: 2024-02-02 16:47
> 收件人: user-zh
> 主题: Batch模式下,StatefulSinkWriter如何存储状态,以保证在failover或者job restart的情况避免从头读取数据
> Flink 1.16.0
> 
> 我在阅读FileSink的代码时发现,其依靠StatefulSinkWriter的snapshotState接口在checkpoint时存储当前的状态。
> 
> interface StatefulSinkWriter<InputT, WriterStateT> extends SinkWriter<InputT> 
> {
>        /**
>         * @return The writer's state.
>         * @throws IOException if fail to snapshot writer's state.
>         */
>        List<WriterStateT> snapshotState(long checkpointId) throws IOException;
>    }
> 
> 然而,我了解到Flink在batch模式不会开启checkpoint机制,那我如何能够保证批任务的状态能够得到及时保存。
> 
> 如果我在进行大规模数据的ETL操作,因为某些task失败导致任务重试,难道整个任务都要从头开始吗?
> 
> 恳请各位大佬赐教

回复