遇到两个问题: 背景:flink v1.10集群,几十台主机,每台CPU 16,内存 50G,整个job的并发是200 比如我的一个RichMapFunction在open中会加载存量数据。 因维度数据和主数据是非常离散的,因此这些维度数据都需要加载到内存
1、这个RichMapFunction的并发度上不去,只能整到4,并发度上去后各种问题,但从主机内存以及分配给taskmanager的内存足够; 2、这个RichMapFunction的所有slot都分配到同一个taskmanager上,即同一个主机。没有找到接口可以分散到不同的taskmanager上; 说简单点: 1、 对于RichMapFunction的open中需要加载大量维度数据,并发度上不去受什么影响; 2、 对于一个算子如何干预使其分散到不同的taskmanager上; 发送自 Windows 10 版邮件<https://go.microsoft.com/fwlink/?LinkId=550986>应用
