Hi,

看你的问题描述,我们可能遇到过类似的问题。

我们的问题是,从cp恢复之后,某些key跟之前的状态里的key对不上了,所以就有点类似于丢失了一部分状态。

但是我们也没有查出来具体的原因,一方面是因为问题比较难以复现,我们用线上数据,也只是有部分数据有问题,
也看不出来这部分有问题的数据有什么规律;另一方面是blink planner底层用的都是binary的数据结构,debug起来也会
比较困难。

如果你能提供一个比较稳定的能复现的数据集和测试方法,我觉得这个问题我们可以再推进解决一下。

star <3149768...@qq.com> 于2020年6月5日周五 下午4:02写道:

> 各位大佬有遇到过类似问题吗?
>
>
>
>
> ------------------&nbsp;原始邮件&nbsp;------------------
> 发件人:&nbsp;"star"<3149768...@qq.com&gt;;
> 发送时间:&nbsp;2020年6月5日(星期五) 上午10:40
> 收件人:&nbsp;"user-zh@flink.apache.org"<user-zh@flink.apache.org&gt;;
>
> 主题:&nbsp;回复:flink1.9 Sql 注册的中间临时表不自动存state的吗?
>
>
>
> 没有使用窗口,状态不该被清理,但从结果看貌似被清理过呀
>
>
>
>
> ------------------ 原始邮件 ------------------
> 发件人:&nbsp;"zhiyezou"<1530130...@qq.com&gt;;
> 发送时间:&nbsp;2020年6月5日(星期五) 上午10:31
> 收件人:&nbsp;"user-zh"<user-zh@flink.apache.org&gt;;
>
> 主题:&nbsp;回复:flink1.9 Sql 注册的中间临时表不自动存state的吗?
>
>
>
> Hi
>
>
> 如果没有使用窗口的话,状态是不会被自动清理掉的,需要自己主动配置状态的TTL
>
>
>
>
> ------------------&amp;nbsp;原始邮件&amp;nbsp;------------------
> 发件人:&amp;nbsp;"star"<3149768...@qq.com&amp;gt;;
> 发送时间:&amp;nbsp;2020年6月5日(星期五) 上午10:22
> 收件人:&amp;nbsp;"user-zh@flink.apache.org"<user-zh@flink.apache.org&amp;gt;;
>
> 主题:flink1.9 Sql 注册的中间临时表不自动存state的吗?
>
>
>
> 大家好,我使用的flink 1.9的blink planner
>
>
>
> 先按 月 和城市 去重id; 注册成一张临时表(月表) 将结果实时输出到hbase表:monthtable;rowkey是month+city
>
>
>
>
> 然后基于上面这张表 再按city汇总 输出到hbase表:totalTable ,rowkey是 city
>
>
>
>
>
>
> 运行了近18个小时 中间有过restore和ck失败,然后我统计了&amp;amp;nbsp;
> 两个表到cnt汇总值居然不一样,totalTable比monthtable小,而且还差了不了,请问这会是上面原因
>
>
> 伪代码如下:
>
>
>
>
> val env = StreamExecutionEnvironment.getExecutionEnvironment
>
> env.getCheckpointConfig.setCheckpointingMode(CheckpointingMode.EXACTLY_ONCE)
> val bsSettings =
> EnvironmentSettings.newInstance().useBlinkPlanner().inStreamingMode().build()
> val tableEnv = StreamTableEnvironment.create(env, bsSettings)
>
>
> myDataStream=......
>
>
>
>
> tableEnv.registerDataStream("monthtable", myDataStream,'month','city ,'id)
>
>
>
>
> //按月份,城市统计去重的id数量(id和city有关,同一个城市的id不会重复)
> val monthCount = tableEnv.sqlQuery(
> &nbsp;s"""
> select month,city,count(distinct id) as cnt from monthtable group by
> month,city
> &nbsp;""".stripMargin)
>
>
> //将月统计结果输出到hbase,rokey为month+city
> monthCount.toRetractStream[Row].filter(_._1).map(line=&amp;amp;gt;{
> val row=line._2
> &nbsp;val month=row.getField(0).toString
> val city=row.getField(1).toString
> &nbsp;val cnt=row.getField(2).toString
> val map=new util.HashMap[String,String]()
> &nbsp;map.put("cnt",cnt)
> &nbsp;(month+city,map)&nbsp; &nbsp; &nbsp;// month+city是rowkey cnt是一个column
> &nbsp;}).addSink(new MyHbaseSink("monthHbaseTable")
>
>
>
>
>
>
> //将上面的月表注册成新表 monthStat
> tableEnv.registerTable("monthStat",monthCount)
>
>
> //按城市统计id的数量
> val totalCount = tableEnv.sqlQuery(
> s"""
> select city,sum(cnt) as cityCnt from monthStat&amp;amp;nbsp; group by city
> &nbsp;""".stripMargin)
>
>
> //将月统计结果输出到hbase,rokey为city
> &nbsp;totalCount.toRetractStream[Row].filter(_._1).map(line=&amp;amp;gt;{
> val row=line._2
> val city=row.getField(0).toString
> val totalCnt=row.getField(1).toString
> val map=new util.HashMap[String,String]()
> map.put("totalCnt",totalCnt)
> (city,map)
> &nbsp;}).addSink("totalHbaseTable")



-- 

Best,
Benchao Li

回复