遇到两个问题:
  背景:flink v1.10集群,几十台主机,每台CPU 16,内存 50G,整个job的并发是200
  比如我的一个RichMapFunction在open中会加载存量数据。
  因维度数据和主数据是非常离散的,因此这些维度数据都需要加载到内存

1、这个RichMapFunction的并发度上不去,只能整到4,并发度上去后各种问题,但从主机内存以及分配给taskmanager的内存足够;

2、这个RichMapFunction的所有slot都分配到同一个taskmanager上,即同一个主机。没有找到接口可以分散到不同的taskmanager上;

说简单点:

1、 对于RichMapFunction的open中需要加载大量维度数据,并发度上不去受什么影响;

2、 对于一个算子如何干预使其分散到不同的taskmanager上;




发送自 Windows 10 版邮件<https://go.microsoft.com/fwlink/?LinkId=550986>应用

回复