具体原因不太清楚,但建议使用context.timeService().currentEventTime()和currentProcessingTime()来获取当前的时间。
排查方法的话,不知道你有没有做算子的单元测试,如果还没有的话可以通过flink test util[1][2]做单元测试来debug排查, 可以比较明确的观察到timeService上的Timer状态。 [1] https://flink.apache.org/news/2020/02/07/a-guide-for-unit-testing-in-apache-flink.html [2] https://ci.apache.org/projects/flink/flink-docs-stable/dev/stream/testing.html 钟昊(zhonghao01)-商业智能部 <[email protected]> 于2020年8月6日周四 下午5:31写道: > hi,everyone: > > > 由于业务需求,需要对一条流中的数据分4个步骤处理,处理完第一步后,再过15分钟进行第二步,第二步完成后再过30分钟处理第三步,然后60分钟后进行第四步,我这边通过timerservice设置定时器的方式进行的实现,但是运行过程中发现第二步15分钟的定时器只有非常少部分消息到时间触发了定时任务onTimer中的逻辑,部分代码实现如下: > > > DataStream<String> dataStream = env.addSource(…); > final OutputTag<Tuple2<String, SimplifiedPingbackMsg>> missPingback = …; > final OutputTag<Tuple2<String, SimplifiedPingbackMsg>> level1Tag = …; > final OutputTag<Tuple2<String, SimplifiedPingbackMsg>> level2Tag = …; > final OutputTag<Tuple2<String, SimplifiedPingbackMsg>> level3Tag = …; > > SingleOutputStreamOperator<FinalItemFeature> missDs = dataStream > .map(…) > .filter(…) > .assignTimestampsAndWatermarks(new AssignWaterMark()) > .keyBy(0) > .timeWindow(Time.seconds(winSize)) > .process(new BatchMergeProcessFunction(missPingback)); > > SingleOutputStreamOperator<FinalItemFeature> level1MissedDs = > missDs > .getSideOutput(missPingback) > .keyBy(0) > // ********** > 这一步中,处理类中15分钟的定时器只有非常少部分数据的定时器timer触发了,触发比例10%不到。 ******** > .process(new HbaseTimerProcessFunc(level1Tag, 15)); > > SingleOutputStreamOperator<FinalItemFeature> level2MissedDs = > level1MissedDs > .keyBy(0) > .process(new HbaseTimerProcessFunc(level2Tag, 30)); > > SingleOutputStreamOperator<FinalItemFeature> level3MissedDs = > level2MissedDs > .keyBy(0) > .process(new HbaseTimerProcessFunc(level3Tag, 60)); > DataStream<FinalItemFeature> l1Ds = > level1MissedDs.getSideOutput(level1Tag); > DataStream<FinalItemFeature> l2Ds = > level2MissedDs.getSideOutput(level2Tag); > DataStream<FinalItemFeature> l3Ds = > level3MissedDs.getSideOutput(level3Tag); > > missDs.union(l1Ds).union(l2Ds).union(l3Ds).addSink(…); > > > ——————————— > —> HbaseTimerProcessFunc.class 中定时器设置方法 > @Override > public void processElement(SimplifiedPingbackMsg value, Context context, > Collector<SimplifiedPingbackMsg> out) throws Exception { > long ts = System.currentTimeMillis() + 60 * 1000 * timeout; > pbState.put(value.getEventId() + ts, value); > context.timerService().registerEventTimeTimer(ts); > MetricModifyUtils.modifyPerDay(timerTotalCounter, 1); > } > ——————————— > > … > > // 水印提取类,类似于直接用了ProcessTime来提取的 > class AssignWaterMark implements > AssignerWithPeriodicWatermarks<Tuple2<String, SimplifiedPingbackMsg>> { > > private long maxOutOfOrderness = 60 * 1000 * 5; > private long currentMaxTimestamp = 0L; > > @Nullable > @Override > public Watermark getCurrentWatermark() { > return new Watermark(currentMaxTimestamp - maxOutOfOrderness); > } > > @Override > public long extractTimestamp(Tuple2<String, SimplifiedPingbackMsg> > element, long previousElementTimestamp) { > long timestamp = System.currentTimeMillis(); > currentMaxTimestamp = Math.max(timestamp, currentMaxTimestamp); > return timestamp; > } > } > > > > 所以为啥这里的实现会出现此类情况呢,这种情况该如何去排查为啥会有绝大多数timer不触发呢,我看了webui中水印生成是正常的。 > >
