请教 Yarn Per-Job 模式下,多个 executeAsync() 与 execute() 的区别

2021-04-12 文章 键盘击打者
Yarn Per-Job 模式下,如果一个 flink 的应用中有两个 execute(),第二个Job启动不了。但是如果换成 executeAsync()就可以,我还没有想清楚为什么... -- Sent from: http://apache-flink.147419.n8.nabble.com/

Re: flink on yarn 多TaskManager 拒绝连接问题

2021-04-12 文章 haihua
hi请问楼主这个问题解决了 ,有什么思路可以分享一下吗? -- Sent from: http://apache-flink.147419.n8.nabble.com/

Re: 退订

2021-04-12 文章 Leonard Xu
On Mon, Apr 12, 2021 at 3:06 PM yangxiaofei wrote: > 退订 > > Hi 是指取消订阅邮件吗?取消和订阅邮件组 不是直接发给邮件组, Apache的邮件组管理都类似。 请发送任意内容的邮件到 user-zh-unsubscr...@flink.apache.org 就可以取消订阅 user-zh@flink.apache.org 邮件列表 邮件列表的订阅管理,可以参考[1] 祝好, Leonard Xu [1]

Re: flink -conf.yaml修改

2021-04-12 文章 JasonLee
hi 如果是 session 模式需要重启集群,如果是 per-job 模式直接提交任务即可. - Best Wishes JasonLee -- Sent from: http://apache-flink.147419.n8.nabble.com/

??????flink -conf.yaml????

2021-04-12 文章 Long

回复: 回复:flink -conf.yaml修改

2021-04-12 文章 明启 孙
多谢 smq 发件人: 熊云昆 发送时间: 2021年4月12日 18:48 收件人: smq 抄送: user-zh 主题: 回复:flink -conf.yaml修改 重启job就可以了,不需要重启集群 | | 熊云昆 | | 邮箱:xiongyun...@163.com | 签名由 网易邮箱大师 定制 在2021年04月12日 14:34,smq 写道: 大家好,这个配置文件修改之后需要什么操作才生效吗,比如重启集群,还是说直接启动作业自动就应用了呢

回复:flink -conf.yaml修改

2021-04-12 文章 熊云昆
重启job就可以了,不需要重启集群 | | 熊云昆 | | 邮箱:xiongyun...@163.com | 签名由 网易邮箱大师 定制 在2021年04月12日 14:34,smq 写道: 大家好,这个配置文件修改之后需要什么操作才生效吗,比如重启集群,还是说直接启动作业自动就应用了呢

Re: 分组滚动窗口 无法触发计算,由于 watermark 没有被生成,或者被计算。

2021-04-12 文章 HunterXHunter
1.12默认是 eventtime不需要设置 -- Sent from: http://apache-flink.147419.n8.nabble.com/

回复: 退订

2021-04-12 文章 541122...@qq.com
退订 541122...@qq.com 发件人: 程鑫 发送时间: 2021-04-08 22:21 收件人: user-zh 主题: 退订 退订

退订

2021-04-12 文章 541122...@qq.com
退订 541122...@qq.com

Re:回复:flink sql join 内存占用以及数据延迟问题咨询

2021-04-12 文章 董建
感谢sllence大佬的耐心解答,还想继续请教一下: 1、假如是设置了持久化的状态后端,不知道是以什么样的格式来存储state的?是每个流单独一个state(原始数据),还是join后的结果进行state? 2、cdc 默认采用了regular join,全量数据都在内存中,所以数据量大的业务会对集群造成较大负担。在实际生产环境中,假如这种类型的任务非常多,集群资源是不是很快就会被耗尽了?不知道 是否可以认为是cdc的一个问题? 3、我的实际生产中有etl的join需求,这些etl涉及多张表的写入,但是无法确认在join的流中的延迟和乱序时间,所以是不是除了regular

退订

2021-04-12 文章 yangxiaofei
退订

Re: 分组滚动窗口 无法触发计算,由于 watermark 没有被生成,或者被计算。

2021-04-12 文章 jie mei
此外,在事件时间,场景下,如果一个 Stream A 有消息, 另一个 Stream B 没有消息进行 UNION ALL。那么 Stream B 的消息永远是一个 Long.MIN_VALUE, 进行水印对其的时候,UNION ALL 后的水印取所有 CHANNEL 的最小水印,也就是 Long.MIN_VALUE, 这就导致分组滚动窗口一致得不到计算。 jie mei 于2021年4月12日周一 上午11:24写道: > 问题已经解决,因为我的 StreamEnv 默认设置为事件时间。去掉就可以了,这导致了watermark没有生成。 > > jie mei

Re: Does it support gpu coding in flink?

2021-04-12 文章 Yangze Guo
Hi, 目前有一个MNIST Inference的Demo[1]是使用GPU的,但是没有用到TensorFlow. 在flink-ai-extended项目中有个TensorFlow训练MNIST的例子[2],但不确定能否直接用GPU版TF执行。我帮你involve一下Becket和Wei来确认下。 [1] https://github.com/KarmaGYZ/flink-mnist [2]

Does it support gpu coding in flink?

2021-04-12 文章 张颖
HI,I am running a tf inference task on my cluster,but I flind it took so long a time to get response, becase it is a bert model and I run it on cpu machine.My componey has gpu k8s cluster,and I read the document

Does it support rate-limiting in flink 1.12?

2021-04-12 文章 张颖
When I run a sql job with blink planner in my cluster,the task is almost preemption the whole resources in the cluster, and this is a bad effect to the stream task.As it is not necessary on speed,so is there any way to control the rate in my batch task? this is the machine performance in

flink sql join 内存占用以及数据延迟问题咨询

2021-04-12 文章 董建
最近看了 云邪 大佬关于flink cdc sql的视频,并且动手操作了 例子 https://github.com/ververica/flink-cdc-connectors/wiki/%E4%B8%AD%E6%96%87%E6%95%99%E7%A8%8B 感受到了flink sql 在实时流计算的便捷性以及强大,但同时也有一些疑问。如下: flink connector cdc 直接对接订单表,物流表,商品表表的binlog 1、通过flink进行3流join的时候,这个join是对应flink底层api的哪种join,是否受窗口大小以及时间现在? 2、假如是全量join ,

flink -conf.yaml修改

2021-04-12 文章 smq
大家好,这个配置文件修改之后需要什么操作才生效吗,比如重启集群,还是说直接启动作业自动就应用了呢

flink hive维表关联报错snappy压缩问题

2021-04-12 文章 kandy.wang
java.lang.UnsatisfiedLinkError: org.apache.hadoop.util.NativeCodeLoader.buildSupportsSnappy()Z at org.apache.hadoop.util.NativeCodeLoader.buildSupportsSnappy(Native Method) at org.apache.hadoop.io.compress.SnappyCodec.checkNativeCodeLoaded(SnappyCodec.java:63) at

"flink 1.12.2升级之后恢复任务出现异常"

2021-04-12 文章 张锴
在client 提交命令出现以下错误,没遇到过,不清楚如何配置。 Exception in thread "Thread-5" java.lang.IllegalStateException: Trying to access closed classloader. Please check if you store classloaders directly or indirectly in static fields. If the stacktrace suggests that the leak occurs in a third party library and cannot

Re: Re: flink的cpu和内存资源分配

2021-04-12 文章 Xintong Song
你截图的日志也明确显示了各部分的内存大小分别是多少,heap 只是其中一部分,所有的加起来才是你配置的 1728m。 调整配置是可以让 TM 用到更多的内存,至于能否提升性能,那要看你的计算任务瓶颈是否在内存上。如果瓶颈在 cpu、io 甚至上游数据源,那一味调大内存也帮助不大。 Thank you~ Xintong Song On Mon, Apr 12, 2021 at 10:32 AM penguin. wrote: > 谢谢!因为我是一个机器作为一个TM,flink配置文件中默认的taskmanager.memory.process.size >