MaxCompute Studio使用心得系列7——作业对比

简介: 在数据开发过程中,我们通常需要将两个作业进行对比从而定位作业运行性能或者结果有差异的问题,但是对比作业时需要同时打开两个studio 的tab页,或者两个Logview页,不停切换进行对比,使用起来非常的不方便。

在数据开发过程中,我们通常需要将两个作业进行对比从而定位作业运行性能或者结果有差异的问题,但是对比作业时需要同时打开两个studio 的tab页,或者两个Logview页,不停切换进行对比,使用起来非常的不方便。MaxCompute Studio从3.1.0版本开始支持作业对比,可以在一个页面同时比较两个作业,并且能自动标注出作业的差异点。

本文我以查找同个作业执行两次用时差别很大的原因为例,通过MaxCompute Studio的对比功能对两次执行的job进行对比,找出执行时间差别大的原因。

作业对比入口

MaxCompute Studio的Maxcompute 工具菜单中进入作业对比。

image

输入两个需要对比的job的logview url 地址,点击“OK”按钮就可以开始对比:

image

对比基本信息

作业一运行了01:11:08 ,作业二运行了00:45:59,想知道是什么导致了相差近半个小时。先看基本信息对比:

image

通过基本信息可以看到studio 标注出作业一的耗时明显上升,其他项目,如IO Bytes 等相差不多, 输入输出表完全相同。基本可以断定是同一作业,为了确保是同一个作业还可以对比执行计划和脚本。

对比执行图

打开执行图 Tab ,可以一目了然看到两个作业的执行计划,执行图无法进行标注,可以通过查看text diff查看。

image

点击text diff 后可以对比fuxi task 的执行时间, 输入输出等详细信息。可以比较绝对值,可以按比例比较,不一致的地方都会进行有效标注。

image

这里可以发现执行计划是完全一致的。

对比脚本

点击脚本对比Tab 后,可以对比settings 和script ,settings 非常关键,不同的参数可能会导致完全不同的结果。这里需要使用text diff 功能比较sql 脚本。

image

可以看到脚本对比功能很方便使用,即便是很复杂的sql 脚本都可以快速发现区别,这里发现只有分区日期不同,其他完全一致。

进一步分析执行计划

通过前面几个对比,确定两个作业完全一致, 再回到执行图中, 通过回放可以发现运行瓶颈在J4, 查看text diff 发现作业一的J4 用时52分, 作业二28分,由此判断作业一主要是J4用时长导致整体运行变慢。

image

接下来重点分析J4 ,打开J4的 Operation Graph, Studio 在Operation 层新添加了Metric 信息, 可以看到每个operation 的执行时间,inner_time_ms, 这个时间指Operation 执行完所有行的平均时间(每个fuxi instance 都会用这个operation执行, 当这个operation 处理完所有分配给他的数据后就得出一个时间,这里的inner_time_ms 指的是这些fuxi instance 对应的Operation 执行的平均时间) ,通过这个时间可以发现某个Operation 执行时间是否过长,例如自定义udf 是否有性能问题。

image

对比J4 的实际运行时间相差不多,并且执行的都比较快,由此可以考虑J4 是否存在等待资源情况, 导致fuxi instance 并没有及时开始运行。

对比分析Tab

打开作业分析tab的时序图子页面,可以明显发现作业一的J4_2_3 task 运行时间大于作业二的, 与前面看到的执行计划图一致。

image

鼠标放到J4上点击展开作业后,可以看出fuxi instance 开始执行时间非常晚,这进一步验证了资源不足导致作业等待情况。

image

小结

通过Studio 的作业对比功能,调查了资源等待导致的作业运行变慢情况, 并且排查的效率更高。作业对比还有很多其他功能,各位可以自行尝试。

使用MaxCompute和Studio有疑惑可以工单咨询,更多探讨可以加入对应钉钉群一起畅聊:

MaxCompute开发者社区 钉钉群号:11782920

MaxCompute Studio用户群 钉钉群号:21791804

相关实践学习
简单用户画像分析
本场景主要介绍基于海量日志数据进行简单用户画像分析为背景,如何通过使用DataWorks完成数据采集 、加工数据、配置数据质量监控和数据可视化展现等任务。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
目录
相关文章
|
2月前
|
SQL 分布式计算 监控
MaxCompute提供了一些工具以帮助您监控作业和资源使用情况。
【2月更文挑战第4天】MaxCompute提供了一些工具以帮助您监控作业和资源使用情况。
27 8
|
4月前
|
SQL 分布式计算 大数据
请问本地安装了大数据计算MaxCompute studio,如何验证联通性及基本DDL操作呢?
请问本地安装了大数据计算MaxCompute studio,如何验证联通性及基本DDL操作呢?
27 0
|
7月前
|
SQL 分布式计算 资源调度
阿里云MaxCompute-Hive作业迁移语法兼容性踩坑记录
阿里云MaxCompute-Hive作业迁移语法兼容性踩坑记录
|
4月前
|
SQL 分布式计算 监控
MaxCompute提供了一些工具以帮助您监控作业和资源使用情况
MaxCompute提供了一些工具以帮助您监控作业和资源使用情况
40 4
|
6月前
|
SQL 分布式计算 DataWorks
MaxCompute元数据使用实践--作业统计
通过MaxCompute租户级别Information Schema的“TASKS_HISTORY”视图可以统计查看MaxCompute计算作业的元数据信息,方便您进行作业审计以及各类统计,指导作业性能、成本优化。
1204 0
|
6月前
|
SQL 资源调度 大数据
大数据平台 CDP 中如何配置 hive 作业的 YARN 队列以确保SLA?
大数据平台 CDP 中如何配置 hive 作业的 YARN 队列以确保SLA?
|
6月前
|
SQL 资源调度 安全
开启 Kerberos 安全的大数据环境中,Yarn Container 启动失败导致作业失败
开启 Kerberos 安全的大数据环境中,Yarn Container 启动失败导致作业失败
|
6月前
|
SQL 分布式计算 资源调度
大数据问题排查系列-大数据集群开启 kerberos 认证后 HIVE 作业执行失败
大数据问题排查系列-大数据集群开启 kerberos 认证后 HIVE 作业执行失败
|
6月前
|
SQL 分布式计算 大数据
大数据问题排查系列 - TDH大数据平台中 HIVE作业长时间无法执行结束
大数据问题排查系列 - TDH大数据平台中 HIVE作业长时间无法执行结束
|
10月前
|
存储 数据采集 SQL
大数据数据采集的数据迁移(同步/传输)的Sqoop之基本命令和使用的job作业
在大数据领域中,Sqoop是一款非常流行的数据迁移工具。它可以将关系型数据库中的数据快速地移动到Hadoop生态系统中,方便我们进行更深入的分析和处理。本文将介绍Sqoop的基本命令及如何使用Sqoop来创建和运行job作业,希望能够为大家提供一些参考和帮助。
106 0

相关产品

  • 云原生大数据计算服务 MaxCompute