请问如何将已有字段设置为rowtime属性

2019-10-28 文章
各位好,我想使用kafka消息中的某个字段作为rowtime属性,遇到了以下问题,使用flink版本为1.9.1。 以下是我尝试的两种用法,都会报错。请问大家有没有遇到过类似的问题,怎么解决的,谢谢! 代码一: tEnv.connect( new Kafka() .version("universal") .topic("flink-test-dept-1") .startFromGroupOffsets()

在json schema中如何定义数组字段

2019-09-19 文章
我是用的是flink-1.9版本,现在想消费带数组字段的json数据,类似{“field1:” “aaa”, “field2”: [“bbb, “ccc”]} 这种数据格式。 注册schema的时候我使用了field("field2", Types.OBJECT_ARRAY(Types.STRING))这种方式。EnvironmentSetting指定为flink-planner和blink-planner都有问题。

在where条件中使用汉字导致查询出的字段出现unicode编码

2019-09-17 文章
我使用的是flink 1.9版本,在sql中将where条件的一个字段传入了汉字,返回的字段值却是unicode编码。如果不按照汉字做条件,返回的字段值则是汉字。请问有没有人遇到过这个问题? 测试代码: tEnv.connect( new Kafka() .version("universal") .topic("flink-test-topic-1") .startFromGroupOffsets()

答复: flink sql中怎么表达窗口的提前触发或延迟触发

2019-09-11 文章
迟触发 目前社区的1.9版本的blink-planner在parser层面还不支持,可以通过全局config来配置: table.exec.emit.early-fire.enabled table.exec.emit.early-fire.delay 可以尝试一下。 苏 欣 于2019年9月11日周三 上午11:45写道: > Blink文档中有介绍到EMIT Strategy,可以用WITH DELAY '1' MINUTE BEFORE WATERMARK或者EMIT > WITHOUT DELAY AFTER WATERMARK等类似的语法来控制窗口触发。 >

flink sql中怎么表达窗口的提前触发或延迟触发

2019-09-10 文章
Blink文档中有介绍到EMIT Strategy,可以用WITH DELAY '1' MINUTE BEFORE WATERMARK或者EMIT WITHOUT DELAY AFTER WATERMARK等类似的语法来控制窗口触发。 但是我使用这种语法作业运行就会报SQL解析错误,请问有没有办法可以在sql中实现控制窗口触发的操作? Table result = tEnv.sqlQuery("select " + "count(*) " + "from dept group by tumble(crt_time,

回复: flink-1.9 打包问题

2019-08-23 文章
settings.xml加上这个镜像试试 confluent confluent confluent http://packages.confluent.io/maven sean...@live.com 发件人: Jimmy Wong 发送时间: 2019-08-23 16:56 收件人: user-zh 主题: flink-1.9 打包问题 Hi,大家好,我用阿里的 settings.xml

答复: flink1.10版本连接hive报错

2019-08-12 文章
发送时间: Saturday, August 10, 2019 5:58:02 PM 收件人: user-zh 主题: Re: flink1.10版本连接hive报错 hi 苏欣: 建议先检查一下最后打的 jar 包里面是否包含了 com.hadoop.compression.lzo.LzoCodec 和 com.hadoop.compression.lzo.LzoCodec 苏 欣 于2019年8月9日周五 下午5:41写道: > 使用flink版本为1.10-snapshot,连接hive版本为1.1.0-cdh5.4.7,大数据集群有kerberos认证。 > &

blink访问带kerberos认证kafka的问题

2019-05-24 文章
大家好,我使用blink集群访问带认证的kafka,按照文档上的方式配置flink-conf.yaml文件,配置如下: security.kerberos.login.use-ticket-cache: false security.kerberos.login.keytab: /home/kafka/kafka.keytab security.kerberos.login.principal: kafka/slave2@MYCDH security.kerberos.login.contexts: Client,KafkaClient

附件好像发不过去,补充部分日志//回复: 回复: blink提交yarn卡在一直重复分配container

2019-04-08 文章
nagers 2019-04-09 09:58:30.662 [pool-1-thread-7] INFO org.apache.flink.yarn.YarnSessionResourceManager - Starting TaskManagers 2019-04-09 09:58:30.662 [pool-1-thread-3] INFO org.apache.flink.yarn.YarnSessionResourceManager - Starting TaskManagers __

回复: 答复: blink提交yarn卡在一直重复分配container

2019-04-08 文章
sean...@live.com 发件人: 苏 欣<mailto:sean...@live.com> 发送时间: 2019-04-09 10:30 收件人: user-zh@flink.apache.org<mailto:user-zh@flink.apache.org> 主题: 答复: blink提交yarn卡在一直重复分配container 不好意思,已补充yarn的日志文件。 出现问题的原因我已经找到了,在配置flink-conf.yaml中的下面三项后,

答复: blink提交yarn卡在一直重复分配container

2019-04-08 文章
;mailto:user-zh@flink.apache.org> 主题: Re: blink提交yarn卡在一直重复分配container 你好,apache 的邮件列表不支持内嵌图片,请以附件或链接方式引用。 Best, tison. 苏 欣 于2019年4月8日周一 上午10:17写道: > 我以per-job方式提交了一个作业到yarn上面,发现会出现不断重复分配container的现象。 > > 现象为从yarn的web ui上看一瞬间tm的container分配成功了,但是立刻变为只剩一个jm的container,接着会继续分配tm的 > c

blink提交yarn卡在一直重复分配container

2019-04-07 文章
我以per-job方式提交了一个作业到yarn上面,发现会出现不断重复分配container的现象。 现象为从yarn的web ui上看一瞬间tm的container分配成功了,但是立刻变为只剩一个jm的container,接着会继续分配tm的container。不断的重复这个过程直到作业调度不到资源而失败。 我查了一下exit code没找到31代表是什么意思,有没有大佬帮忙分析下,非常感谢! [cid:image003.png@01D4EDF4.496DE910] 发送自 Windows 10

请教大佬们,blink提交yarn集群的问题

2019-04-02 文章
我在fink-conf.yaml文件中配置了principal和keytab,可以提交到带有kerberos认证的yarn集群中,现在我有两个问题: 1.同一客户机切换到不同的yarn集群时,提交作业之前需要改变HADOOP_CONF_DIR,krb5.conf和fink-conf.yaml的配置。这样做有点不太方便,也不太好处理同时提交的问题。 blink目前能否通过提交命令传参的方式来切换票据,或者有没有什么使用上的建议呢? 2.我看到文档上说,缓存票据目前只支持在yarn上的独立集群,这句话的意思是指目前缓存票据只能用在flink yarn session模式中吗? 发送自

答复: blink开源版本维表关联时开启缓存方式

2019-03-29 文章
> > Best, > > Kurt > > > > > > On Wed, Mar 27, 2019 at 4:44 PM 苏 欣 wrote: > > > > > 我在ppt里面看到这些内容,但是在开源的blink里面没有找到相关的配置,请问各位老师应该如何开启缓存策略? > > > > > > > > > > > > 发送自 Windows 10 版邮件 <https://go.microsoft.com/fwlink/?LinkId=550986>应用 > > > > > > > > > > > >

blink开源版本维表关联时开启缓存方式

2019-03-27 文章
我在ppt里面看到这些内容,但是在开源的blink里面没有找到相关的配置,请问各位老师应该如何开启缓存策略? [cid:image001.png@01D4E4BC.02091040] 发送自 Windows 10 版邮件应用