1.深入理解 Hadoop （七）YARN资源管理和调度详解
2.YARN源码剖析：NM启动过程
深入理解 Hadoop （七）YARN资源管理和调度详解
Hadoop最初为批处理设计，源码其资源管理与调度仅支持FIFO机制。解读然而，源码随着Hadoop的解读普及与用户量的增加，单个集群内的源码应用程序类型与数量激增，FIFO调度机制难以高效利用资源，解读软件源码 下载工具也无法满足不同应用的源码服务质量需求，故需设计适用于多用户的解读资源调度系统。
YARN采用双层资源调度模型：ResourceManager中的源码资源调度器分配资源给ApplicationMaster，由YARN决定；ApplicationMaster再将资源分配给内部任务Task，解读用户自定。源码YARN作为统一调度系统，解读满足调度规范的源码分布式应用皆可在其中运行，调度规范包括定义ApplicationMaster向RM申请资源，解读AM自行完成Container至Task分配。源码YARN采用拉模型实现异步资源分配，RM分配资源后暂存缓冲区，等待AM通过心跳获取。
Hadoop-2.x版本中YARN提供三种资源调度器，分别为...
YARN的队列管理机制包括用户权限管理与系统资源管理两部分。CapacityScheduler的oa审批系统源码核心特点包括...
YARN的更多理解请参考官方文档：...
在分布式资源调度系统中，资源分配保证机制常见有...
YARN采用增量资源分配，避免浪费但不会出现资源饿死现象。YARN默认资源分配算法为DefaultResourceCalculator，专注于内存调度。DRF算法将最大最小公平算法应用于主资源上，解决多维资源调度问题。实例分析中，系统中有9个CPU和GB RAM，两个用户分别运行两种任务，所需资源分别为...
资源抢占模型允许每个队列设定最小与最大资源量，ssm框架登录源码以确保资源紧缺与极端情况下的需求。资源调度器在负载轻队列空闲时会暂时分配资源给负载重队列，仅在队列突然收到新提交应用程序时，调度器将资源归还给该队列，避免长时间等待。
YARN最初采用平级队列资源管理，新版本改用层级队列管理，优点包括...
CapacityScheduler配置文件capacity-scheduler.xml包含资源最低保证、使用上限与用户资源限制等参数。管理员修改配置文件后需运行"yarn rmadmin -refreshQueues"。模版网站自带源码
ResourceScheduler作为ResourceManager中的关键组件，负责资源管理和调度，采用可插拔策略设计。初始化、接收应用和资源调度等关键功能实现，RM收到NodeManager心跳信息后，向CapacityScheduler发送事件，调度器执行一系列操作。
CapacityScheduler源码解读涉及树型结构与深度优先遍历算法，以保证队列优先级。天猫源码生成其核心方法包括...
在资源分配逻辑中，用户提交应用后，AM申请资源，资源表示为Container，包含优先级、资源量、容器数目等信息。YARN采用三级资源分配策略，按队列、应用与容器顺序分配空闲资源。
对比FairScheduler，二者均以队列为单位划分资源，支持资源最低保证、上限与用户限制。最大最小公平算法用于资源分配，确保资源公平性。
最大最小公平算法分配示意图展示了资源分配过程与公平性保证。
YARN源码剖析：NM启动过程
NodeManager初始化和启动过程主要涉及配置文件读取，资源信息配置，以及服务启动等步骤。重点在于初始化阶段，配置文件读取完成，包括关于节点资源信息的配置。
启动NodeManager（NM）时，遵循与ResourceManager（RM）类似的逻辑，启动各个服务。关键在于nodeStatusUpdater模块。其中两个重要方法为registerWithRM()和startStatusUpdater()。这两个方法通过RPC远程调用ResourceManager中的两个接口：registerNodeManager()和nodeHeartbeat()。
NM启动过程中添加的服务列表构成其核心功能描述。例如，NodeHealthCheckerService提供节点健康检查功能，包含两个子service：NodeHealthScriptRunner（使用配置的脚本进行健康检查）和LocalDirsHandlerService（检查磁盘健康状况）。此服务包含getHealthReport()方法，用于获取健康检查结果。
NM中的关键类之一为NMContext，它作为组件间信息共享的接口。
NM与RM之间的心跳通信是整个过程中不可或缺的部分，确保了资源管理系统的实时状态监控与资源分配协调。
综上所述，NodeManager的启动过程涉及初始化配置、启动关键服务以及与ResourceManager的交互，实现资源管理和节点健康监控等功能。这一过程为YARN框架提供了稳定、高效的基础结构。
