• 如果您觉得本站非常有看点,那么赶紧使用Ctrl+D 收藏吧

大话Spark(7)-源码之Master主备切换

SPARK wangting 5个月前 (06-14) 85次浏览

Master作为Spark Standalone模式中的核心,如果Master出现异常,则整个集群的运行情况和资源都无法进行管理,整个集群将处于无法工作的状态。
Spark在设计的时候考虑到了这种情况,Master可以起一个或者多个Standby Master,当Master出现异常的时候,Standy Master 将根据一定规则确定一个接管Master。在Standalone模式中Spark支持下面集中策略(spark-env.sh配置spark.deploy.recoveryMode):

  • ZOOKEEPER:集群的元数据持久化到Zookeeper中,当Master出现异常后,Zookeeper会通过选举机制选出新的Master,新的Master接管时需要从Zookeeper中获取之前集群的持久化信息,并根据这些信息恢复集群状态。
  • FILESYSTEM:集群的元数据持久化到本地的文件系统中,当Master出现问题后只要在该机器上重新启动Master,重启后的Master会根据之前的持久化信息恢复集群状态。
  • CUSTOM:自定义恢复方式,对StandaloneRecoveryModeFactory抽象类进行实现并把该类配置到系统中,当Master出现异常时,根据自定义方式恢复集群。
  • NONE:不持久化集群的元数据,Master出现异常时,新启动的Master不进行恢复集群状态,而是直接接管集群。

Master异常切换过程图

大话Spark(7)-源码之Master主备切换

Master切到StandbyMaster过程

  1. 持久化引擎去读取持久化的storedApps,storedDrivers,storedWorkers。
  2. 判断其中如果有一个是非空的,开始恢复集群。
  3. 将持久化的Application,Driver,Worker的信息重新进行注册,注册到Master内部的缓存结构中。
  4. 将App和Worker的状态都修改为UNKNNOW然后向App对应的driver和Worker发送Standby Master的地址。
  5. Master接收到工作中的Driver、Worker发送来的响应消息,使用completeRecovery()方法对没有响应的Driver、Worker进行处理,过滤掉他们的信息。
  6. 调用Master的schedule()方法,调度正在等待资源的App和Driver。

相关源码

持久化引擎去读取持久化的storedApps,storedDrivers,storedWorkers,如果其中有一个是非空的,则去开始恢复集群。

大话Spark(7)-源码之Master主备切换

使用completeRecovery()方法对没有响应的Driver、Worker进行处理,过滤掉他们的信息。

大话Spark(7)-源码之Master主备切换

遍历移除所有worker
大话Spark(7)-源码之Master主备切换

移除Driver
大话Spark(7)-源码之Master主备切换


程序员灯塔 , 版权所有
转载请注明原文链接:https://www.wangt.cc/2019/06/da-huaspark-7yuan-ma-zhimaster-zhu-bei-qie-huan/
喜欢 (0)