我可以在 Spark 详细信息页面中看到我的工作的并行性,但我想知道我的工作实际上与多少个 Executor 一起运行。
我在哪里可以看到这个?
我可以在 Spark 详细信息页面中看到我的工作的并行性,但我想知道我的工作实际上与多少个 Executor 一起运行。
我在哪里可以看到这个?
如果您按照相同的方法找到此处Environment
提到的选项卡,您将在该页面上找到一个条目,说明使用的执行器数量。
根据您的环境,您可能会发现dynamicAllocation
is true
,在这种情况下,您会注意到一个minExecutors
和一个maxExecutors
设置,用作您工作的“界限”。根据您使用的是静态分配还是动态分配,您将在该范围内拥有任意数量的执行程序。
如果dynamicAllocation
是false
,那么您将看到一个executorInstances
条目,其中列出了计数。