tencent cloud

弹性 MapReduce

动态与公告
产品动态
产品公告
安全公告
产品简介
产品概述
产品优势
产品架构
产品功能
应用场景
约束与限制
技术支持范围
产品发行版
购买指南
EMR on CVM 计费说明
EMR on TKE 计费说明
EMR Serverless HBase 计费说明
快速入门
EMR on CVM 快速入门
EMR on TKE 快速入门
EMR on CVM 操作指南
规划集群
管理权限
配置集群
管理集群
管理服务
监控告警
智能管家
EMR on TKE 操作指南
EMR on TKE 简介
配置集群
管理集群
管理服务
监控运维
应用分析
EMR Serverless HBase 操作指南
EMR Serverless HBase 产品简介
配额与限制
规划实例
管理实例
监控告警
开发指南
EMR 开发指南
Hadoop开发指南
Spark 开发指南
HBASE开发指南
Phoenix on Hbase 开发指南
Hive 开发指南
Presto开发指南
Sqoop 开发指南
Hue 开发指南
Oozie 开发指南
Flume 开发指南
Kerberos 开发指南
Knox 开发指南
Alluxio 开发指南
Kylin 开发指南
Livy 开发指南
Kyuubi 开发指南
Zeppelin 开发指南
Hudi 开发指南
Superset 开发指南
Impala 开发指南
Druid 开发指南
Tensorflow 开发指南
Kudu 开发指南
Ranger 开发指南
Kafka 开发指南
Iceberg 开发指南
StarRocks 开发指南
Flink 开发指南
JupyterLab 开发指南
MLflow 开发指南
实践教程
EMR on CVM 运维实践
数据迁移实践
自定义伸缩实践教程
API 文档
History
Introduction
API Category
Cluster Resource Management APIs
Cluster Services APIs
User Management APIs
Data Inquiry APIs
Scaling APIs
Configuration APIs
Other APIs
Serverless HBase APIs
YARN Resource Scheduling APIs
Making API Requests
Data Types
Error Codes
常见问题
EMR on CVM常见问题
服务等级协议
联系我们

Yarn 作业查询

PDF
聚焦模式
字号
最后更新时间: 2023-12-27 14:44:38

功能介绍

提供查看用户粒度提交量、Memory 量和 Vcore 消耗量等信息,快速查看 Yarn 作业的提交队列、状态、持续时间等多项明细指标,并支持作业级历史任务对比、作业洞察、任务执行信息等。

操作步骤

1. 登录 EMR 控制台,在集群列表中单击对应的集群 ID/名称进入集群详情页。
2. 在集群详情页中单击集群服务,然后选择 YARN 组件右上角操作 > 作业查询,即可查看作业统计视图、资源消耗趋势,查询相关作业信息、任务信息查看、应用执行结果洞察及应用监控对比等。
2.1 用户粒度的提交量、Memory、VCore 的消耗量视图及分布,支持近期内的相关趋势查看。


2.2 作业级别提供用户、应用名、队列名、作业类型、持续时间及相关吞吐资源等多维信息筛查。


2.3 统计列表可按照指定的用户、队列等信息统计其资源消耗量,帮助统计资源开销情况辅助成本核查(接口同步支持)。


注意
其中 Spark 类型应用的任务信息、应用洞察、应用对比新功能需 check Spark History 版本是否符合,check 命令如下:curl "http://localhost:10000/api/v1/applications" | json_pp,返回数据为非正常的 json 格式数据则 SparkHistory 版本不符合,可通过 提交工单 申请开启相关功能。
作业查询将每30s采集一次 ResourceManager 数据,采集操作对集群业务影响微小可忽略。
3. 在作业列表中单击更多 > 应用洞察,查看应用的详细洞察项及相关的洞察规则、结果、建议。


注意
为保障集群稳定运行,洞察功能采集策略满足以下任一规则将被降级忽略采集:
1.1 默认运行时长小于10min的 App 将被降级忽略。
1.2 默认采集时子任务大于3W的 App 将被降级忽略。
1.3 默认延迟采集时间大于24h的 App 将被降级忽略。
洞察采集降级策略的相关参数可通过 提交工单 评估修改。
风险说明
Yarn 应用洞察会分别采集 Spark History、Job History、Timeline Server 相关应用数据进行分析,如若发现上述服务请求量持续突破负载瓶颈可 提交工单 关闭该功能。
4. 在作业列表中单击更多 > 应用对比,可以选择当前应用与同类型应用的业务指标对比信息。


注意
仅 MR、Spark、Tez 类型且最终状态为 SUCCEEDED 的应用支持应用对比。
默认页面按照同类型相同应用名已做过滤,应用对比的选择筛选范围仅限于同类型应用,筛选支持实时查询后台。
5. 在作业列表中单击更多 > 任务信息,查看作业的任务列表、Hosts 对比及任务的运行日志。

功能的覆盖范围如下:
作业类型
任务信息
Hosts 对比
任务日志
MR
支持
支持
支持
Spark
支持
不支持
支持
Tez
支持
支持
不支持
其他
不支持
不支持
不支持


帮助和支持

本页内容是否解决了您的问题?

填写满意度调查问卷,共创更好文档体验。

文档反馈