使用flink cdc消费mysql binlog遇到业务库刷数据瞬间cdc流量上涨打爆作业的问题有什么好的解决办法吗?
业务上利用flink作业做实时数据同步,请问实时数据同步对比监控有什么好的工具和方案吗?
实时同步链路:mysql -> kafka canal -> flink -> doris
欢迎大家提供思路
hi,
我在1.15.x和1.16.1对水位线策略进行测试发现水位线对齐和idleness同时使用会造成变成空闲的source无法再消费kafka数据。这是一个bug吗?
我的水位线策略如下:
WatermarkStrategy
.forBoundedOutOfOrderness(Duration.ofMillis(0))
.withTimestampAssigner((element, recordTimestamp) ->
Long.parseLong(element))
Hi
控制台具体是指哪块?你可以检查下其他日志是否显示正常
Best,
Shammon FY
On Wed, Mar 15, 2023 at 11:29 PM wei_yuze wrote:
> 我又试了一次,web UI有了,可能是我看漏了。我设置的任务名是XXX_Statistics。
>
>
> 但是控制台里的输出没有任务名。是log4j2级别不对吗?我在log4j2.properties里设置的输出等级为INFO
>
>
> rootLogger.level = INFO
>
>
>
>
>
>
>
> 原始邮件
>
>
>
> 发件人:"Weihua Hu"<