送时间: 2020-11-12 13:18
> 收件人: user-zh
> 主题: Re: slot数量与并行度的大小关系
> 你是部署的 flink standalone 集群吗?目前作业的并行度 15 是通过什么方式指定的?
>
> 流处理作业默认是至少要拿到并行度数量的 slot 才能够运行的。可以通过 Shawn 提到的 [3]
> 中的几种方式更改作业的并行度。另外,也可以通过配置 `taskmanager.numberOfTaskSlots` 来增加 flink 集群的
> slot 数量。
>
> Thank you~
&g
是flink standalone 集群。
job并行度是在job的java代码中通过 streamExecutionEnvironment.setParallelism(15) 来指定的。
hl9...@126.com
发件人: Xintong Song
发送时间: 2020-11-12 13:18
收件人: user-zh
主题: Re: slot数量与并行度的大小关系
你是部署的 flink standalone 集群吗?目前作业的并行度 15 是通过什么方式指定的?
流处理作业默认是至少要拿到并行度数量的 slot 才能够运行的。可以通过 Shawn 提到的 [3
你是部署的 flink standalone 集群吗?目前作业的并行度 15 是通过什么方式指定的?
流处理作业默认是至少要拿到并行度数量的 slot 才能够运行的。可以通过 Shawn 提到的 [3]
中的几种方式更改作业的并行度。另外,也可以通过配置 `taskmanager.numberOfTaskSlots` 来增加 flink 集群的
slot 数量。
Thank you~
Xintong Song
On Wed, Nov 11, 2020 at 7:54 PM Shawn Huang wrote:
> Hi,
>
> Flink 的调度策略会保证一个job需要的s
Hi,
Flink 的调度策略会保证一个job需要的slot数恰好等于该job所有算子的最大并行度。
如果slot数量小于算子的最大并行度,则该job无法执行。可以参考[1][2]中的文档描述。
目前没有方法让flink自动选择可用slot数量作为并行度,但可以通过[3]中的几种方法来设置。
[1]
https://ci.apache.org/projects/flink/flink-docs-release-1.11/zh/internals/job_scheduling.html
[2]
https://ci.apache.org/projects/flink/flink-docs