1

我可以在 Spark 详细信息页面中看到我的工作的并行性,但我想知道我的工作实际上与多少个 Executor 一起运行。

我在哪里可以看到这个?

4

1 回答 1

2

如果您按照相同的方法找到此处Environment提到的选项卡,您将在该页面上找到一个条目,说明使用的执行器数量。

根据您的环境,您可能会发现dynamicAllocationis true,在这种情况下,您会注意到一个minExecutors和一个maxExecutors设置,用作您工作的“界限”。根据您使用的是静态分配还是动态分配,您将在该范围内拥有任意数量的执行程序。

如果dynamicAllocationfalse,那么您将看到一个executorInstances条目,其中列出了计数。

于 2022-01-31T22:03:29.240 回答