Re: MySQL cdc时态表join

2021-03-18 Thread chenxyz
可以参考 https://github.com/leonardBang/flink-sql-etl/tree/master/flink-demo/flink-temporal-join-demo > 2021年3月18日 下午4:41,guoyb <861277...@qq.com> 写道: > > mysql cdc表 和kafka表关联,应该怎么写,有对应示例吗?

Re:Re: flink sql如何从远程加载jar包中的udf

2021-03-11 Thread chenxyz
目前这种方法不可行,在公司的平台化系统里提交flink任务,自己能掌控的只有代码这块。 在 2021-03-11 16:39:24,"silence" 写道: >启动时通过-C加到classpath里试试 > > > >-- >Sent from: http://apache-flink.147419.n8.nabble.com/

Re: flink sql如何从远程加载jar包中的udf

2021-03-10 Thread chenxyz
1.10应该是registerFunction吧,当前jar包中没有这个类(这个类在远程jar包中),这种方法没办法实例化TableFunction。 > 2021年3月11日 上午11:21,HunterXHunter <1356469...@qq.com> 写道: > > 通过 createTemporarySystemFunction 试试看呢 > > > > -- > Sent from: http://apache-flink.147419.n8.nabble.com/

flink sql如何从远程加载jar包中的udf

2021-03-10 Thread chenxyz
我们将开发的udf放在远程服务器,需要动态地加载jar包。Flink版本1.10,代码如下 public static void main(String[] args) throws Exception { StreamExecutionEnvironment exeEnv = StreamExecutionEnvironment.getExecutionEnvironment(); EnvironmentSettings envSet = EnvironmentSettings .newInstance()

Re:Re: flink 1.9.2 升级 1.10.0 任务失败不能从checkpoint恢复

2020-07-15 Thread chenxyz
Hello, Peihui,可以参考下是不是和这个问题类似?之前我在1.10.0也遇到过。 http://apache-flink.147419.n8.nabble.com/rocksdb-Could-not-restore-keyed-state-backend-for-KeyedProcessOperator-td2232.html#a2239 解决方式: 1. 使用hdfs作为状态后端不会报错 2. 升级至1.10.1使用rocksdb也不会出现该问题 在 2020-07-14 14:41:53,"Peihui He" 写道: >Hi Yun, >

Re:Re: Re: rocksdb作为状态后端任务重启时,恢复作业失败Could not restore keyed state backend for KeyedProcessOperator

2020-04-14 Thread chenxyz
tadataLoadingTest 的相关测试。 >我再看了一下你给的 TM Log,看上去是 148 行的 outputStream.close() 出错了(有个比较奇怪的现象是,这里的 >outputStream 是本地的文件,但是从错误栈看是 HadoopFileSystem)。你这个是稳定复现的问题吗?如果是的话,能否贴一下打开 >debug log,贴一下 JM/TM log,另外能给一个可复现的 作业更好 > >Best, >Congxian > > >chenxy

Re:Re: rocksdb作为状态后端任务重启时,恢复作业失败Could not restore keyed state backend for KeyedProcessOperator

2020-04-01 Thread chenxyz
.sst >这个文件是不是存在 double check 下,如果是下载失败,你需要确认下下载失败的原因 > >Best, >Congxian > > >chenxyz 于2020年4月1日周三 下午3:02写道: > >> 任务启用rocksdb作为状态后端,任务出现异常重启时经常失败Could not restore keyed state backend for >> KeyedProcessOperator。这个问题怎么解决呢? >> >> 版本:1.10 standalone >

rocksdb作为状态后端任务重启时,恢复作业失败Could not restore keyed state backend for KeyedProcessOperator

2020-04-01 Thread chenxyz
任务启用rocksdb作为状态后端,任务出现异常重启时经常失败Could not restore keyed state backend for KeyedProcessOperator。这个问题怎么解决呢? 版本:1.10 standalone 配置信息: state.backend: rocksdb state.checkpoints.dir: hdfs://nameservice1/data/flink1_10/checkpoint state.backend.incremental: true

Re:flink 1.10.0中内存分配问题和超时问题

2020-03-23 Thread chenxyz
有没有配置TaskManager的MaxMetaspaceSize呢?1.10默认的MaxMetaspaceSize比较小,UserCodeClassLoader加载class之后容易出现Metaspace区溢出,导致TM挂掉。可以在flink-conf.yaml文件里面进行配置 env.java.opts.taskmanager: "-XX:MaxMetaspaceSize=1024m" 在 2020-03-23 14:44:42,"site" 写道: