Java性能调优工程的几点建议

简介:

2016年8月,由极客邦、InfoQ和听云联合主办APMCon 2016 中国应用性能管理大会上,Java性能调优专家Monica Beckwith进行了《Java性能调优必读守则》(原题目:Java Performance Engineer's Survival Guide)的演讲。演讲中,Monica给出关于Java调优最佳实践的个人建议:怎样设定需要调优的性能要求、需要对哪些指标进行分析、目标设定后又怎样具体地开展调优。

Monica Beckwith专注于企业级应用中Java虚拟机和垃圾收集器的优化,发表过多篇垃圾收集器和Java内存模型方面的文章。她之前就职于 Oracle,带领G1垃圾收集器性能团队,目前是一位独立咨询师。在Monica演讲之后,InfoQ又对她进行了专访。

性能调优前的准备工作

Monica认为性能优化工程由两部分组成:性能需求分析及规划、性能结果分析。两者构成闭环,使得性能得到不断的提升。

一、性能需求分析及规划

在决定性能需求的时候,工程师们首先要问自己三个问题:

哪些会让用户开心? 哪些会让用户懊恼? 目前存在的问题需要被关注并解决吗?

接下来,需要站在用户的角度去思考QoS;将QoS标准量化为可测量的指标,即SLA服务等级协议;然后对SLA性能指标进行定义、梳理并排列优先级(吞吐量、响应时间、容量、请求足迹、CPU使用率等)。

吞吐量/率:  
目标—是否可以比设定的吞吐量低?如果可以,这种状态可以持续多久?最低可以低到多少?  
测量—怎样测量?(事务数/秒、消息数/秒或者两种方式)哪里测量?(客户端、服务器端或者浏览器端)

响应时间:   
目标—是否可以超出设定的响应时长?如果可以,这种状态可以持续多久?最长可以达到多久?   
测试—怎样测量?(取99%响应的时间计算均值、只统计某一段响应时间(5-9秒)、最差的情况或者全部)哪里测量?(客户端、服务器端或者整个环路)

容量管理:   
可以接受的容量是多少?如果某个系统过载怎么办(负载均衡出现问题)?怎样测量容量?一个系统和所有系统能承受的最大容量是多少?可以承受多久?需要监测哪些指标?

二、性能结果分析

关于性能结果分析,这里只讨论Java的性能分析。分析哪些因素会影响到终端用户体验,无法达到预期的QoS;跟踪监测性能指标。下图是一个分层情况图:

20161010113213219.png

应用层生态系统:应用服务、应用服务器、数据库、生态系统中其他服务 JRE层:类加载情况、JIT编译情况、垃圾回收情况、线程情况 操作系统层:系统/内核状态、锁状态、线程状态 硬件层:内存带宽/内存吞吐量/内存占用、CPU/内核的使用、CPU缓存效率/使用/级别、处理器结构、IO状态

性能调优的执行

两种实现模式

Monica提出了两种实现方式:自上而下、自下而上。采用哪一种要看你想要实现什么。

如果想从应用层面入手进行改进的话,且你是一个应用程序工程师,具备修改代码的能力,可以采用自上而下的方式。

20161010113213449.jpg

如果想从平台层面入手进行改进的话,可采用自下而上的方式。首先你要明确平台的哪个模块是需要改进的;其次列出相关的应用、进行工作量的评估;然后再寻找恰当的工具。

20161010113213563.jpg

  四个步骤

不论哪一种方向,均可以分为四步:第一步监控、第二步归纳、第三步分析、第四步调优和应用。

20161010113215980.jpg

通常而言,关心的指标有以下几个。 
CPU:CPU状态、内核状态、缓存命中和没有命中的次数、分支预测、流水线、条件转移、load-store的工作模式等 
内存:内存使用、内存、带宽、读写状态、读操作的最大带宽、写操作的最大带宽、最大容量、与结构相关的。 
JVM/GC:收集与变化相关的信息、收集一般或者并发的GC各个阶段的信息、并发工作队列和工作状态、内部队列或缓存等。

监控   
首先是从监控环节做起。   
监控方式分为三种:主动(报警设定)、被动(网络分流器)、离线(日志抓取)。   
可以选用的工具有三类:   
第三方——VisualVM、Java Flight Recorder   
JVM自带命令——PrintCompilation、PrintGCDetails(+PrintGCDateStamps)、jmap-clstats、jcmd GC.class-stats   
操作系统自带——Linux下面有mpstat、sysstat – iostat、pidstat、prstat、vmstat、dash、CPU – Z、 cacti等;Windows下面有Performance Monitor、Task Manager、Resource Monitor、CPU-Z、cacti等

归纳和分析   
接下来是归纳和分析环节。   
这个时候你已经有了所有需要的信息,你需要辨识出哪些地方需要提升,分析出哪些是潜在需要改进的问题。这个环节可以使用的开源工具有两类:   
第三方性能分析工具——Oracle Solaris Studio Performance Analyzer、perftools、PAPI、Code XL、 Dtrace、Oprofile、gprof、LTT   
Java 程序层面——Visual VM、Netbeans Profiler、JConsole

调优   
最后一步调优。JVM/GC的调优重点在于要选择对的堆、对的垃圾回收算法。首先正确划分对象的所属年代,然后只对长期存活的对象进行调优,每个虚拟机的所有GC工作线程(GC 的stop-the-world现象),同一个VM中多个 GC 线程来执行;看看压缩普通对象指针是否有效;大的堆也许需要使能AlwaysPretouch并且将UseLargePages设置为最佳大小。此外,在代码层面优化满足SLA目标,设置恰当的ramp-up和ramp-down,对象的年代划分和保留策略(理解LDS文件的形成),确保测量正确。

对话Monica

InfoQ: 在性能分析时,是否有必要收集所有的日志?

Monica: 当我们知道某处需要调优时,通常来讲用户们会给我发送过来产品环境中的日志,我们基于此复制环境,然后在这个复制的环境中进行测试和检查。我不建议在真实的环境中进行测试,因为生产环境需要保持稳定。什么情况下需要所有的日志呢?当我们确定知道某个问题的存在,比如内存泄露的问题,在这个时候就需要尽可能收集所有日志。

InfoQ: 能否分析下几种GC方式,并做以简单评价?

Monica: 垃圾回收是Java应用调优的核心。GC不只有垃圾信息的收集、还有堆的管理分配信息;所有的分配都是类似的。一般而言,如果你有一个很小的空间可以给对象划分世代的话;hotspot JVM中我建议在老年代对象上进行优化。因为年轻代占大多数,而且会死掉。老年代的回收算法中常见默认为垃圾标记-压缩算法。

CMS垃圾回收器针对的是年老代的回收,从root对象开始标记存活对象。一旦空间中有不再存活的对象,所占用的资源就会被释放,并且更新到free list中;CMS所做的就是要将年老代中所有应该归属于free list的都划分其中。

另外一种设计就是G1。它将资源按区划分,有些区域共同构成年轻代,还有一些构成年老代,即同一个世代的所有区域并不一定是邻近的。每个区域最初都是任意的,需要通过声明才能定义为年轻代或者年老代。在收集时期,年老代并不是一定要全部参与。G1在意的是收集有很多垃圾的区域。此外,G1还会尝试调整年轻代的区间大小。

InfoQ: Java中现在你最想改变的是什么?

Monica: Java的非堆内存管理可能会在JDK 9 或JDK 10 中得到改善;此外检测内存泄露很困难,我认为有许多需要提升的地方。

InfoQ: 为了实现更好的性能,你认为Java软件开发工程师需要注意哪些事情?

Monica: 在编程的时候,要想到Java GC是怎样工作的。占用资源的并不是过期的对象,而是存活的对象;活的对象需要去维护。在编程的时候要明白对象的创立、保留策略还有垃圾回收器是怎样工作的。能考虑到这三点就很好了,你没有必要强制自己把每件事情都做对,只要整体可以协调妥帖就很好了。

本文转自d1net(转载)

相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
相关文章
|
2月前
|
SQL Java 关系型数据库
七个知识点带你轻松掌握 Java性能调优
Java性能调优最强实践 每层优化难度逐级增加,涉及的知识和解决的问题也会不同。比如应用层需要理解代码逻辑,通过 Java 线程栈定位有问题代码行等;数据库层面需要分析 SQL、定位死锁等;框架层需要懂源代码,理解框架机制;JVM 层需要对 GC 的类型和工作机制有深入了解,对各种 JVM 参数作用了然于胸。
44 0
七个知识点带你轻松掌握 Java性能调优
|
3月前
|
运维 监控 Java
【深入浅出JVM原理及调优】「搭建理论知识框架」全方位带你深度剖析Java线程转储分析的开发指南
学习JVM需要一定的编程经验和计算机基础知识,适用于从事Java开发、系统架构设计、性能优化、研究学习等领域的专业人士和技术爱好者。
54 5
【深入浅出JVM原理及调优】「搭建理论知识框架」全方位带你深度剖析Java线程转储分析的开发指南
|
8月前
|
Java
JVM-调优思路,实战经验
JVM-调优思路,实战经验
109 0
|
8月前
|
Java Linux
第二季:9.生产环境服务器变慢,诊断思路和性能评估谈谈?【Java面试题】
第二季:9.生产环境服务器变慢,诊断思路和性能评估谈谈?【Java面试题】
63 0
|
9月前
|
设计模式 架构师 Java
程序员必修课:阿里性能优化全解终开源!设计+代码+JVM三飞
性能优化可以说是我们程序员的必修课,如果你想要跳出CRUD的苦海,成为一个更“高级”的程序员的话,性能优化这一关你是无论无何都要去面对的。为了提升系统性能,开发人员可以从系统的各个角度和层次对系统进行优化。除了最常见的代码优化外,在软件架构上、JVM虚拟机层、数据库以及操作系统层面都可以通过各种手段进行调优,从而在整体上提升系统的性能。
|
9月前
|
监控 网络协议 Java
【深入了解系统性能优化】「实战技术专题」全方面带你透彻探索服务优化技术方案(系统服务调优)
系统运行缓慢,执行速度较差虽然没有对用户或公司造成实质性的损失,但它从侧面反映出系统在某些方面存在问题。可能需要对系统参数进行优化,或者对系统的设计和交互进行调整,这是后续系统性能优化的一个重要过程。我们将继续努力优化系统,以确保其高效运行和良好性能,以提升用户体验并最大程度地满足业务需求。我们希望通过系统调优的历程,解决当前存在的问题,并不断改进系统的运行,为用户提供更好的服务。
65 0
【深入了解系统性能优化】「实战技术专题」全方面带你透彻探索服务优化技术方案(系统服务调优)
|
11月前
|
缓存 监控 负载均衡
【Java虚拟机】JVM调优和分析案例综合实战
【Java虚拟机】JVM调优和分析案例综合实战
【Java虚拟机】JVM调优和分析案例综合实战
|
SQL 缓存 监控
【优化技术专题】「系统性能调优实战」终极关注应用系统性能调优及原理剖析(下册)
【优化技术专题】「系统性能调优实战」终极关注应用系统性能调优及原理剖析(下册)
107 0
|
设计模式 缓存 算法
阿里逆天级调优方案,内部这套Java性能调优实战宝典,堪称教科书
随着互联网的发展,高可靠、高并发以及降本增效,已成为各大公司面临的现实挑战,性能优化需求愈发迫切,大到分布式系统,小到代码块的算法优化,都已经成为你日常工作中必须要面对的事情。对于开发者而言,性能优化也从加分项变为一个热门技能,缺乏相关知识将很难在面试或工作中脱颖而出
阿里逆天级调优方案,内部这套Java性能调优实战宝典,堪称教科书
|
资源调度 分布式计算 Java
通过CombineTextInputFormat实现小文件优化(调优技能)
通过CombineTextInputFormat实现小文件优化(调优技能)
118 0
通过CombineTextInputFormat实现小文件优化(调优技能)