• 如果您觉得本站非常有看点,那么赶紧使用Ctrl+D 收藏吧

spark 启动参数小记

spark 启动参数小记
num-executors 参数说明:该参数用于设置Spark作业总共要用多少个Executor进程来执行。Driver在向YARN集群管理器申请资源时,YARN集群管理器会尽可能按照你的设置来在集群的各个工作节点上,启动相应数量的Executor进程。这个参数非常之重要,如果不设置的话,默认只会给你启动少量的Executor进程,此时你的Spark作……继续阅读 »

wangting 2年前 (2017-12-15) 353浏览 0个赞