• 微信公众号:美女很有趣。 工作之余,放松一下,关注即送10G+美女照片!

深入YARN系列1:窥全貌之YARN架构,设计,通信原理等

互联网 diligentman 3小时前 3次浏览

 深入YARN系列主要分为:

  • 深入YARN系列1:窥全貌之YARN架构,设计,通信原理等
  • 深入YARN系列2:剖析ResourceManaer的架构与核心源码分析
  • 深入YARN系列3:剖析NodeManager架构,组件机制,生产应用
  • 深入YARN系列4:剖析ApplicationMaster的任务管理机制与生产调优
  • 深入YARN系列5:YARN三大组件配合使用与YARN生产性能优化

1.YARN的架构与设计

        YARN的总体架构模式是Master/Slave主从模式。一个全局的ResourceManager ( RM,主 ,可以多个HA),多个NodeManager共同构成计算框架。 NodeManager (NM)是每台机器的框架代理,管理单个节点的资源和任务,比如负责容器container、监控其资源使用情况(cpu、内存、磁盘、网络)等。既然YARN是为了给计算框架做资源调度分配与管理的,那么少不了应用程序管理相关的框架:ApplicationMaster (AM) 实际上是一个特定框架的库,其作用是负责管理整个系统中所有的应用程序(从任务提交到结束),协商来自 ResourceManager 的资源,同时与 NodeManager 一起执行和监视任务。

深入YARN系列1:窥全貌之YARN架构,设计,通信原理等

从上面这张Hadoop官网的照片我们可以清晰的看出,YARN主要有以下三个组件构成.ResourceManager,NodeManager,ApplicationMaster构成。

2.透视YARN三大组件全貌

        YARN 可以看出一个大的云操作系统,它负责为应用程序启动 ApplicationMaster(相当于主线程),然后再由 ApplicationMaster 负责数据切分、任务分配、 启动和监控等工作,而由 ApplicationMaster 启动的各个 Task(相当于子线程)仅负责自己的计算任务。当所有任务计算完成后,ApplicationMaster 认为应用程序运行完成,然后退出。

2.1.ResourceManager全局资源管理器

RM负责整个系统的资源分配与管理;它主要有调度器ResourceScheduler和应用程序管理器(APPlications Manager)构成;

2.1.1ResourceScheduler

     Resource   Scheduler调度器只负责资源的细分调度,比如按照队列,容量等指标,给每个请求的应用程序分配的指定数量的资源。 Hadoop 提供了三种不同的资源调度器供选用,用户可以在配置文件中加以选择。这三种调度器是FIFO Scheduler, FAIR Scheduler,CAPACITY Scheduler,详细使用可以参考官网或我的其他博客。yarn配置文件 yarn-sire.xml 中<yarn. resourcemanager. scheduler. class >来指定调度器,Apache Hadoop集群默认的调度器 是 CapacityScheduler ,而CDH默认的则是FAIR Scheduler.

    

 <property>
        <name>yarn.resourcemanager.scheduler.class</name>
        <value>org.apache.hadoop.yarn.server.resourcemanager.scheduler.capacity.CapacityScheduler</value>
    </property>

2.1.2APPlications Manager

          APPlications Manager 应用程序管理器负责整个系统中所有应用程序的管理,包括管理启动的所有ApplicationMaster (AM)实例,比如启动AM,和AM通信并监控所有AM实例的运行状态,某个AM失败时,在失败次数范围内时对其进行重启等(默认一个应用的AM可以启动2次)。区别APPlications Manager和APPlications Master,两者不同,前者管理后者的实例。

2.2 NodeManger,节点资源管理器

      NM是单个节点的资源管理器,管理者单个节点的资源分配与任务。所以如果hadoop集群特殊情况时想做存储与计算分离,则某些节点可以只启动Datanode,或只启动Nodemanger即可,这样可以只做存储节点或者计算节点,当然也可以通过参数限制存储的使用和计算的使用比例。所以NM是YARN的实际计算节点。

  1. NM和RM保持心跳机制,定时汇报自己节点的资源使用情况和Container的运行状态
  2. Container,全称是Resouce Container是YARN中的资源抽象(主要包含了CPU,内存,网络等),应用程序向RM请求资源的个体就是Container,由NodeManager分配。YARN会为每个任务分配一个container,且任务能使用的资源值就是container中分配的资源(新Capacity调度支持container资源的动态扩容)
  3. NM接受来自AM的Container分配,启动与停止
  4. YARN使用了轻量级资源隔离机制CGroups,CGroups 是 Linux 内核功能。从 YARN 的角度来看,这允许限制容器的资源使用。没有 CGroups,就很难限制容器 CPU 使用率。
  5. NM只负责AM管理的应用程序的部分工作,不管整个程序的失败与否,只负责执行Container。
    深入YARN系列1:窥全貌之YARN架构,设计,通信原理等

尖叫总结:RM内部有个 ResourceTrackerService 类的对象 resourceTracker ,它跟踪管理着 NodeManager 节点所知道的资源变动。同时 NodesListManager 类的对象nodesListManager 则维持着一个节点清单,记录着哪些节点当前是可用的,哪些则是不可用的。而 ResourceTrackerService 和 NodesListManager 掌握的则是来自所有 NodeManager 节点的心跳报告,通过心跳进行交互的信息如节点当前状态,资源使用情况等。这些信息最终都要汇集到ResourceScheduler,通过调度器将资源分配出去给用户使用。

2.3 Application Master应用程序主管理器

客户端每使用YARN启动执行一个应用程序之前,先启动一个AM(其实本质就是一个运行的Container,一个程序最早启动的container实例)

  1. 每个提交到YARN的任务都会启动一个唯一的AM实例,如果AM失败了,默认可以重试启动一次。
  2. AM与RM通信提交需要的资源,AM与RM调度器Scheduler通信协商以获取资源Container,得到Container后分配给自己的任务执行执行。比如map任务的执行。分配的多少个Container就有多少个map并行执行。
  3. AM从RM得到的资源只是资源列表,hosts,container数量,资源大小等,这时候AM需要与NM通信,启动任务,启动container。
  4. AM监管者该任务所有任务实例的运行状态,比如一个MapReduce任务,该任务AM监管所有的MapTask,ReduceTask的运行状态。如果AM监管到任务失败了后,可以进行重新申请资源重启。包括可以主动杀死任务,停止任务等。

尖叫总结:从上面可以看出,YARN三大组件的RM,NM都只与资源分配有关,只有AM跟应用程序有关。所以如果想将一个新的计算框架(比如自定义的)/应用程序使用YARN进行资源调度和任务管理,只需要从重新实现两个组件即可,前者是提交任务使用的客户端Client,后者就是Application Master。比如MapReduce计算引擎能直接配置使用YARN进行调度,就是YARN默认给他实现了可以提交任务通信的客户端JobClient和任务管理器MapReduce Application Master(简称MRAppMaster)。

3.YARN组件之间的通信RPC/IPC

开发人员经常会在任务中看到RPC通信异常,也有IPC通信异常,报错等?或者查到监控指标RPC请求延迟等?大家应该都不陌生,那么这些报错意味着什么呢?如何解决呢?

3.1RPC通信与IPC通信

        RPC通信是指远程过程调用(Remote Procedure Call)通信协议,主要用来让远程的两台服务器之间A主机的程序可以调用B主机的子程序,是一种远程分布式网络调用通信协议,我们不用太关注底层网络通信细节(不用关注TCP,UDP等),是一种封装好了的通信协议,直接拿来用即可,真香。

      IPC通信是指进程间通信(Inter-Process Communication ,IPC)协议,这个是分布式系统通信的基石。

       尽管Java自带了一套RPC通信组件(RMI,remote method Invocation),但是Hadoop并没有使用该框架,因为相比Java的RMI,后者更加轻量级,高性能和可控性。Hadoop的RPC框架也是C/S模式,分成了四个模块,分别是序列化层,函数调用层,网络传输层以及server端处理层。当前开源的RPC框架很多,比如Apache的AVRO,Google的Protocol Buffer等。

        YARN的RPC通信为了更好的兼容默认使用Google的Protocol Buffer作为默认的序列化机制,而不是Hadoop自带的Writtable。在 YARN 中,任何两个需相互通信的组件之间仅有一个 RPC 协 议,而对于任何一个 RPC 协议,通信双方有一端是 Client,另一端为 Server,且 Client 总 是主动连接 Server 的,因此,YARN 实际上采用的是拉式(pull-based)通信模型

      比如NM和RM之前的远程通信就是基于RPC,通过ResouceTracker实现,其中RM是服务端,NM是客户端。NM主要通过调用ResouceTracker中两个RPC函数与之交互,前者是NM刚启动时通过registerNodeManager函数向RM进行注册,然后再通过nodeHeartBeat像RM发送周期性心跳,维护两者之间的交互。如下图所示,因为RPC分成了四层次序列化层,函数调用层,网络传输层以及server端处理层,所有不同组件之间实现通信的“协议”是不同的。

深入YARN系列1:窥全貌之YARN架构,设计,通信原理等

  • 1.JobClient(作业提交客户端)与 RM 之间JobClient 通过该 RPC 协议提交应用程序、查询应用程序状态,使用的协议 是ApplicationClientProtocol 。
  • 2.AM 与 RM 之间的协议是ApplicationMasterProtocol ,AM 通过该 RPC 协议向 RM 注册并为各个任务申请资源,或者使用完以后进行销毁自己。
  • 3. AM 与 NM 之 间 的 协 议 是ContainerManagementProtocol ,AM 通 过 该 RPC 协议要 求 NM 启动/停止 Container,同时获取各个 Container 的状态信息等。
  • 4.NM 与 RM 之间的协议是ResourceTracker ,NM 通过该 RPC 协议向 RM 注册,并且周期性发送心跳信息汇报当前节点的资源使用情况和 Container 运行情况。
  • 5.Admin与 RM 之间的通信协议是ResourceManagerAdministrationProtocol,超级用户通过该 RPC 协议更新系统配置文件,比如节点上下线名单、用户队列权限等。

尖叫总结:RM,NM,AM三大组件互相通信,通过不同RPC框架协议进行通信,进而保持整个YARN资源的调度和任务监控实施。


程序员灯塔
转载请注明原文链接:深入YARN系列1:窥全貌之YARN架构,设计,通信原理等
喜欢 (0)