YARN简介
作为一个通用的资源管理模块,YARN(Yet Another Resource Negotiator)能为各类应用程序进行资源管理和调度。将资源管理和作业调度/监视的功能拆分为多带带的守护程序,包括全局ResourceManager(RM)和每个应用程序ApplicationMaster(AM)。

YARN结构
YARN模型主要由ResourceManager、ApplicationMaster和NodeManager组成:ResourceManager负责集群中所有资源的统一管理和分配;ApplicationMaster负责一个Application生命周期内的所有工作,包括与RM调度器协商以获取资源和与NM通信以启动/停止任务等;NodeManager是集群中的代理,可监督Container的生命周期管理和运行状态等。
YARN-Cluster运行原理
客户端生成Application信息并提交给ResourceManager,为Application分配第一个Container(ApplicationMaster),并向该Container上启动Driver。ApplicationMaster申请资源以运行Container,ResourceManager分配Container给ApplicationMaster,ApplicationMaster和相关的NodeManager通讯,在获得的Container上启动Executor,Executor向Driver注册并申请Task,Driver分配Task给Executor执行,Executor向Driver汇报运行情况。
YARN资源优化配置方面,可通过YarnwebUI查询集群资源总量,配置ResourceManager、NodeManager、Scheduler、MapReduce属性以及资源故障处理,具体设置可根据集群和节点物理CPU及内存配置参数,设置最小最大内存和CPU等相关属性。
以上是本际云服务器推荐网的小编小本本为大家整理的Hadoop常见YARN资源调优知识点,希望对您有所帮助。
原创文章,作者:小编小本本,如若转载,请注明出处:https://www.benjiyun.com/yunzhujiyunwei/vps-yunwei/5962.html
