Yarn Per-Job 模式下,如果一个 flink 的应用中有两个 execute(),第二个Job启动不了。但是如果换成
executeAsync()就可以,我还没有想清楚为什么...
--
Sent from: http://apache-flink.147419.n8.nabble.com/
hi请问楼主这个问题解决了 ,有什么思路可以分享一下吗?
--
Sent from: http://apache-flink.147419.n8.nabble.com/
On Mon, Apr 12, 2021 at 3:06 PM yangxiaofei wrote:
> 退订
>
>
Hi
是指取消订阅邮件吗?取消和订阅邮件组 不是直接发给邮件组, Apache的邮件组管理都类似。
请发送任意内容的邮件到 user-zh-unsubscr...@flink.apache.org 就可以取消订阅
user-zh@flink.apache.org 邮件列表
邮件列表的订阅管理,可以参考[1]
祝好,
Leonard Xu
[1]
hi
如果是 session 模式需要重启集群,如果是 per-job 模式直接提交任务即可.
-
Best Wishes
JasonLee
--
Sent from: http://apache-flink.147419.n8.nabble.com/
多谢
smq
发件人: 熊云昆
发送时间: 2021年4月12日 18:48
收件人: smq
抄送: user-zh
主题: 回复:flink -conf.yaml修改
重启job就可以了,不需要重启集群
| |
熊云昆
|
|
邮箱:xiongyun...@163.com
|
签名由 网易邮箱大师 定制
在2021年04月12日 14:34,smq 写道:
大家好,这个配置文件修改之后需要什么操作才生效吗,比如重启集群,还是说直接启动作业自动就应用了呢
重启job就可以了,不需要重启集群
| |
熊云昆
|
|
邮箱:xiongyun...@163.com
|
签名由 网易邮箱大师 定制
在2021年04月12日 14:34,smq 写道:
大家好,这个配置文件修改之后需要什么操作才生效吗,比如重启集群,还是说直接启动作业自动就应用了呢
1.12默认是 eventtime不需要设置
--
Sent from: http://apache-flink.147419.n8.nabble.com/
退订
541122...@qq.com
发件人: 程鑫
发送时间: 2021-04-08 22:21
收件人: user-zh
主题: 退订
退订
退订
541122...@qq.com
感谢sllence大佬的耐心解答,还想继续请教一下:
1、假如是设置了持久化的状态后端,不知道是以什么样的格式来存储state的?是每个流单独一个state(原始数据),还是join后的结果进行state?
2、cdc 默认采用了regular
join,全量数据都在内存中,所以数据量大的业务会对集群造成较大负担。在实际生产环境中,假如这种类型的任务非常多,集群资源是不是很快就会被耗尽了?不知道
是否可以认为是cdc的一个问题?
3、我的实际生产中有etl的join需求,这些etl涉及多张表的写入,但是无法确认在join的流中的延迟和乱序时间,所以是不是除了regular
退订
此外,在事件时间,场景下,如果一个 Stream A 有消息, 另一个 Stream B 没有消息进行 UNION ALL。那么 Stream B
的消息永远是一个 Long.MIN_VALUE, 进行水印对其的时候,UNION ALL 后的水印取所有 CHANNEL 的最小水印,也就是
Long.MIN_VALUE, 这就导致分组滚动窗口一致得不到计算。
jie mei 于2021年4月12日周一 上午11:24写道:
> 问题已经解决,因为我的 StreamEnv 默认设置为事件时间。去掉就可以了,这导致了watermark没有生成。
>
> jie mei
Hi, 目前有一个MNIST Inference的Demo[1]是使用GPU的,但是没有用到TensorFlow.
在flink-ai-extended项目中有个TensorFlow训练MNIST的例子[2],但不确定能否直接用GPU版TF执行。我帮你involve一下Becket和Wei来确认下。
[1] https://github.com/KarmaGYZ/flink-mnist
[2]
HI,I am running a tf inference task on my cluster,but I flind it took so long a
time to get response, becase it is a bert model and I run it on cpu machine.My
componey has gpu k8s cluster,and I read the document
When I run a sql job with blink planner in my cluster,the task is almost
preemption the whole resources in the cluster, and this is a bad effect to the
stream task.As it is not necessary on speed,so is there any way to control the
rate in my batch task?
this is the machine performance in
最近看了 云邪 大佬关于flink cdc sql的视频,并且动手操作了 例子
https://github.com/ververica/flink-cdc-connectors/wiki/%E4%B8%AD%E6%96%87%E6%95%99%E7%A8%8B
感受到了flink sql 在实时流计算的便捷性以及强大,但同时也有一些疑问。如下:
flink connector cdc 直接对接订单表,物流表,商品表表的binlog
1、通过flink进行3流join的时候,这个join是对应flink底层api的哪种join,是否受窗口大小以及时间现在?
2、假如是全量join ,
大家好,这个配置文件修改之后需要什么操作才生效吗,比如重启集群,还是说直接启动作业自动就应用了呢
java.lang.UnsatisfiedLinkError:
org.apache.hadoop.util.NativeCodeLoader.buildSupportsSnappy()Z
at org.apache.hadoop.util.NativeCodeLoader.buildSupportsSnappy(Native Method)
at
org.apache.hadoop.io.compress.SnappyCodec.checkNativeCodeLoaded(SnappyCodec.java:63)
at
在client 提交命令出现以下错误,没遇到过,不清楚如何配置。
Exception in thread "Thread-5" java.lang.IllegalStateException: Trying to
access closed classloader. Please check if you store classloaders directly
or indirectly in static fields. If the stacktrace suggests that the leak
occurs in a third party library and cannot
你截图的日志也明确显示了各部分的内存大小分别是多少,heap 只是其中一部分,所有的加起来才是你配置的 1728m。
调整配置是可以让 TM 用到更多的内存,至于能否提升性能,那要看你的计算任务瓶颈是否在内存上。如果瓶颈在 cpu、io
甚至上游数据源,那一味调大内存也帮助不大。
Thank you~
Xintong Song
On Mon, Apr 12, 2021 at 10:32 AM penguin. wrote:
> 谢谢!因为我是一个机器作为一个TM,flink配置文件中默认的taskmanager.memory.process.size
>
21 matches
Mail list logo