的确问题没说明白,貌似flink不会存在类似问题。 hao kong <h...@lemonbox.me> 于2020年9月16日周三 下午6:45写道:
> 十分感谢,我尝试实现一下,看看能不能通过processfuncton和反压机制配合实现一下。 > > Congxian Qiu <qcx978132...@gmail.com> 于2020年9月16日周三 下午1:55写道: > > > Hi > > 没有太明白你这里为什么数据较少的 source 会覆盖数据更多的 source。能否详细描述下呢? > > 如果是因为某些 source 的数据把 watermark 给推高了,从而导致其他的 source > > 数据变成迟到的数据,那么我理解这个暂时没法直接解决的,因为 watermark 是 task 级别的。如果你想要在一个 Flink > > 作业中实现更细粒度的 watermark,或许你可以尝试下 processfuncton[1] 自己来定制一套类似的机制 > > 另外你也可以看下这个文档[2] 看是否在你的场景中有帮助 > > > > [1] > > > > > https://ci.apache.org/projects/flink/flink-docs-release-1.11/dev/stream/operators/process_function.html#the-keyedprocessfunction > > [2] > > > > > https://ci.apache.org/projects/flink/flink-docs-release-1.11/dev/event_timestamps_watermarks.html#watermark-strategies-and-the-kafka-connector > > Best, > > Congxian > > > > > > hao kong <h...@lemonbox.me> 于2020年9月16日周三 上午10:24写道: > > > > > hello,我有一份来自多个Kafka-source的工作。它们都包含某些历史数据。如果使用events-time > > > window,它将导致数据较少的source通过water-mark覆盖数据更多的source。 > > > > > > > > > 目前我能想到的方案是用一个在source上的调度器,通过redis或者zookeeper缓存每一个source下两条数据,统一比较,时间小的先进入接下来的处理流程,实现起来比较复杂,各位大佬有什么好的办法吗?十分感谢。 > > > > > >