你是在batch模式下手动开启了checkpoint吗
> 2024年2月2日 17:11,ha.fen...@aisino.com 写道:
>
> 今天正好测试了这个问题,开启checkpoint后,读取一个文件内容,在checkpoints有记录时,停止程序,然后再从checkpoint读取启动,读取的记录并不是从最开始,这说明批处理下也会自动保存状态。
>
> 发件人: jinzhuguang
> 发送时间: 2024-02-02 16:47
> 收件人: user-zh
> 主题: Batch模式下,StatefulSinkWriter如何存储状态,以保证在failover或者job restart的情况避免从头读取数据
> Flink 1.16.0
>
> 我在阅读FileSink的代码时发现,其依靠StatefulSinkWriter的snapshotState接口在checkpoint时存储当前的状态。
>
> interface StatefulSinkWriter<InputT, WriterStateT> extends SinkWriter<InputT>
> {
> /**
> * @return The writer's state.
> * @throws IOException if fail to snapshot writer's state.
> */
> List<WriterStateT> snapshotState(long checkpointId) throws IOException;
> }
>
> 然而,我了解到Flink在batch模式不会开启checkpoint机制,那我如何能够保证批任务的状态能够得到及时保存。
>
> 如果我在进行大规模数据的ETL操作,因为某些task失败导致任务重试,难道整个任务都要从头开始吗?
>
> 恳请各位大佬赐教