打开APP
userphoto
未登录

开通VIP,畅享免费电子书等14项超值服

开通VIP
Yarn架构

(Master-Slave)

进程角色:

  • resourceManager(Master):任务调度和集群资源管理。

  • nodeManager(Slave):单个节点的资源管理。

  • applicationMaster:为任务程序申请资源,任务程序运行状态监控、错误恢复。

  • container:对运行环境资源的抽象,是资源分配和使用的单元,包括cpu、内存、环境变量等资源。

  • client:发起任务的请求。

任务提交流程 :

用户将作业提交到client,client将任务提交给resourceManager,resourceManager选取一个nodeManager来启动一个applicationMaster,这个applicationMaster根据当前作业反过来向resourceManager申请计算资源,resourceManager将可用资源以一个个container的形式返给applicationMaster,applicationMaster根据各container的位置等属性,将计算任务发送到相应nodeManager,由nodeManager分配container并执行,每个container向applicationMaster同步任务执行状态,整个作业所涉及的每个container中的任务都全部执行完毕后,applicationMaster将结果写入目的地,同时applicationMaster将作业完毕的消息反馈给resourceManager,resourceManager将本次作业申请的container资源全部回收,供后续作业申请。

本站仅提供存储服务,所有内容均由用户发布,如发现有害或侵权内容,请点击举报
打开APP,阅读全文并永久保存 查看更多类似文章
猜你喜欢
类似文章
【热】打开小程序,算一算2024你的财运
YARNMRv2 Node Manager深入剖析—NodeManager启动Container流程分析
HDFS介绍和YARN原理介绍
大数据实战之YARN资源管理
Hadoop学习之路(8)Yarn资源调度系统详解
hadoop2.0 yarn 总结 基于hadoop2.2.0
Hadoop2.x 让你真正明白yarn | 数盟
更多类似文章 >>
生活服务
热点新闻
分享 收藏 导长图 关注 下载文章
绑定账号成功
后续可登录账号畅享VIP特权!
如果VIP功能使用有故障,
可点击这里联系客服!

联系客服