flink实时双流驱动join问题

2022-09-16 Thread casel.chen
请教一个flink实现实时双流驱动join问题: order cdc流字段:order_id, order_status, order_time, user_id (order_id是主键) user cdc流字段:user_id, user_name, user_phone, user_address(user_id是主键) 关联结果流字段:order_id, order_status, order_time, user_name, user_phone, user_address(order_id是主键)

Re: SQL Engine Type inference when extending AsyncTableFunction class twice.

2022-09-16 Thread Jonathan Weaver
I think I've narrowed it down to this function in ExtractionUtils public static Optional> extractSimpleGeneric( Class baseClass, Class clazz, int pos) { try { if (clazz.getSuperclass() != baseClass) { return Optional.empty(); }

Re: Classloading issues with Flink Operator / Kubernetes Native

2022-09-16 Thread Yaroslav Tkachenko
Application mode. I've done a bit more research and created https://issues.apache.org/jira/browse/FLINK-29288, planning to work on a PR today. TLDR: currently Flink operator always creates /opt/flink/usrlib folder and forces you to specify the jarURI parameter, which is passed as pipeline.jars /

Re: A question about restoring state with an additional variable with kryo

2022-09-16 Thread Vishal Santoshi
Thank you for the clarification. I thought so to, Unfortunately my state are generics based and those are definitely not treated as a POJO , though it has all the constructs ( no arg constructor, getters/setters etc ). I will likely take an at least once hit by Changing the uid of that specific

Re: ExecutionMode in ExecutionConfig

2022-09-16 Thread Yun Tang
Hi Hailu, If you take a look at the history of ExecutionMode [1], apart from the refactoring commit, this class is introduced before the year 2016, in which DataSet API has not been deprecated. >From my point of view, you should set runtime mode [2] instead of execution >mode currently if

Re: 任务启动异常导致Flink服务挂掉,无法启动Flink服务

2022-09-16 Thread yidan zhao
嗯。去zookeeper中删除jobgraph和running job xx吧啦的几个节点。 Summer 于2022年9月16日周五 16:51写道: > 开了,但是全被干挂了 > 回复的原邮件 > 发件人 yidan zhao > 发送日期 2022年9月16日 16:05 > 收件人 Summer > 抄送人 user-zh@flink.apache.org > > 主题 Re: 任务启动异常导致Flink服务挂掉,无法启动Flink服务 > HA模式开启了对嘛。 > > Summer 于2022年9月16日周五 15:48写道: > >>

Re: Classloading issues with Flink Operator / Kubernetes Native

2022-09-16 Thread Matthias Pohl via user
Are you deploying the job in session or application mode? Could you provide the stacktrace. I'm wondering whether that would be helpful to pin a code location for further investigation. So far, I couldn't come up with a definite answer about placing the jar in the lib directory. Initially, I would

回复: 任务启动异常导致Flink服务挂掉,无法启动Flink服务

2022-09-16 Thread Summer
开了,但是全被干挂了 回复的原邮件 发件人 yidan zhao发送日期 2022年9月16日 16:05收件人 Summer抄送人 user-zh@flink.apache.org主题 Re: 任务启动异常导致Flink服务挂掉,无法启动Flink服务 HA模式开启了对嘛。 Summer 于2022年9月16日周五 15:48写道: 原因是找到了,${FLINK_HOME}/lib缺少了一个任务依赖Jar包, 那么如果我在不添加这个jar的情况下,由于Flink无法启动,怎么才能取消掉这个任务?? 回复的原邮件

Re: 任务启动异常导致Flink服务挂掉,无法启动Flink服务

2022-09-16 Thread yidan zhao
HA模式开启了对嘛。 Summer 于2022年9月16日周五 15:48写道: > 原因是找到了,${FLINK_HOME}/lib缺少了一个任务依赖Jar包, > 那么如果我在不添加这个jar的情况下,由于Flink无法启动,怎么才能取消掉这个任务?? > > > > 回复的原邮件 > 发件人 yidan zhao > 发送日期 2022年9月16日 14:51 > 收件人 Summer > 抄送人 user-zh@flink.apache.org > > 主题 Re: 任务启动异常导致Flink服务挂掉,无法启动Flink服务 > 开启了HA是吧。 >

回复: 任务启动异常导致Flink服务挂掉,无法启动Flink服务

2022-09-16 Thread Summer
原因是找到了,${FLINK_HOME}/lib缺少了一个任务依赖Jar包, 那么如果我在不添加这个jar的情况下,由于Flink无法启动,怎么才能取消掉这个任务?? 回复的原邮件 发件人 yidan zhao发送日期 2022年9月16日 14:51收件人 Summer抄送人 user-zh@flink.apache.org主题 Re: 任务启动异常导致Flink服务挂掉,无法启动Flink服务 开启了HA是吧。 Summer 于2022年9月16日周五 14:32写道: standlone部署

RE: A question about restoring state with an additional variable with kryo

2022-09-16 Thread Schwalbe Matthias
Hi Vishal, Good news and bad news : * Bad: Kryo serializer cannot be used for schema evolution, see [1] * Good: not all is lost here, * If you happen to have state that you cannot afford to lose, you can transcode it by means of the savepoint API [2], * However, this

回复: 任务启动异常导致Flink服务挂掉,无法启动Flink服务

2022-09-16 Thread 小昌同学
截图一下日志报错的exception看看 | | 小昌 | | ccc0606fight...@163.com | 回复的原邮件 | 发件人 | yidan zhao | | 发送日期 | 2022年9月16日 14:20 | | 收件人 | user-zh | | 主题 | Re: 任务启动异常导致Flink服务挂掉,无法启动Flink服务 | 什么部署模式。 Summer 于2022年9月16日周五 13:57写道: Flink版本:1.13.3 我有一个Flink

Re: 任务启动异常导致Flink服务挂掉,无法启动Flink服务

2022-09-16 Thread yidan zhao
开启了HA是吧。 Summer 于2022年9月16日周五 14:32写道: > standlone部署 > > > > > > > > > 回复的原邮件 > 发件人 yidan zhao > 发送日期 2022年9月16日 14:20 > 收件人 user-zh > 主题 Re: 任务启动异常导致Flink服务挂掉,无法启动Flink服务 > 什么部署模式。 > > Summer 于2022年9月16日周五 13:57写道: > > > > Flink版本:1.13.3 > 我有一个Flink

回复: 任务启动异常导致Flink服务挂掉,无法启动Flink服务

2022-09-16 Thread Summer
standlone部署 回复的原邮件 发件人 yidan zhao发送日期 2022年9月16日 14:20收件人 user-zh主题 Re: 任务启动异常导致Flink服务挂掉,无法启动Flink服务 什么部署模式。 Summer 于2022年9月16日周五 13:57写道: Flink版本:1.13.3 我有一个Flink Sql的任务,也生成了checkpoint,但是执行过程出现Execption,导致整个Flink JobManger无法启动。

Re: 任务启动异常导致Flink服务挂掉,无法启动Flink服务

2022-09-16 Thread yidan zhao
什么部署模式。 Summer 于2022年9月16日周五 13:57写道: > > > Flink版本:1.13.3 > 我有一个Flink Sql的任务,也生成了checkpoint,但是执行过程出现Execption,导致整个Flink JobManger无法启动。 > 我再重启Flink的时候,这个FlinkSql任务由于一直抛异常导致Flink进程启动不起来。 > 请问有什么办法取消这个任务。 > > > > > > > > > > > > > > > > > > > > > >

如何监控flink sql作业端到端延迟?

2022-09-16 Thread casel.chen
线上运行了多个flink sql作业,现在想监控端到端延迟。我配置了 metrics.latency.interval=3 metrics.latency.granularity=operator metrics.latency.history-size=128 参数,延迟指标已经发到了prometheus,看到该指标有50、75、95、98,99,999分位线,另外还有operator_id和operator_id_subtask_index,细到了算子子task级别。 1. 想知道怎样根据这些暴露指标统计出该flink