尝试找出linux服务器性能瓶颈--影响平均负载的几类因素

简介: linux系统的多任务处理能力受到广泛偏好,但性能瓶颈的指标非常繁多。我们今天来看一下如何查看系统性能负载的瓶颈。我们用性能测试的软件模拟下环境。来探究下如何发现真正的性能瓶颈

写在前面:
本篇文章融合了网络上多方的内容进行整合,经过实际操作成功后进行的重新编译。比如问题角度的变换引起的性能测试工具或参数的变动等。某些关键知识点也会有相应的补充。
实验实例采用阿里云ECS产品,参数为2C8G T5型实例,CentOS 7.4系统。除了安装软件的方式有所不同,Ubuntu、rh等其他版本的操作系统同样适用。
用到的工具有stress、stress-ng、sysstat
重要提示:其中sysstat需要更新到最新版本才能反馈iowait等参数变化

Linux 性能优化实践:
当服务器出现性能瓶颈,我们都习惯用top或uptime命令,来查看服务器当前的状态。比如uptime

$ uptime
08:26:48 up 3 days, 17:11, 2 users, load average: 0.00, 0.01,
0.05

展示的字段分别为
08:26:48 当前时间
up 3 days 系统从上次开机开始已经运行了多久
2 users 目前有几个终端连接服务器
后三个数 依次是过去1分钟、5分钟、15分钟的平均负载

平均负载是什么?我们可以执行man 命令,来了解详细解释。
image

简单来说就是单位时间内,系统处于可运行状态和不可中断状态的平均进程数,也就是平均活跃进程数,和CPU利用率并没有直接关系。

可运行状态和不可中断状态又是什么?

可运行状态,是指正在使用CPU或者正在等待CPU的进程。
不可中断状态的进程则是处于内核态关键流程的进程,并且不可打断。比如常见的等待硬件设备的I/O响应,也就是我们在ps命令中看到的D状态进程。

举个例子:当一个进程向磁盘读写数据时,为了保证数据一致性,在磁盘回复前,他是不能被其他进程或者中断打断的,这个时候的进程就处于不可中断状态。如果此时的进程被打断了。就容易出现磁盘与进程数据不一致的问题。
所以,不可中断状态实际上是系统对进程和硬件设备的一种保护机制。

因此我们可以简单的认为,平均负载其实就是平均活跃进程数。既然是平均活跃进程数,那么最理想的就是每个CPU上都刚好运行着一个进程,这样每个CPU都得到了充分利用。比如负载是2的时候,就意味着CPU数小于2,就意味着一半的进程需要等待CPU的响应。这里的CPU数,我们在/proc/cpuinfo条目中就可以查看
image


有多少个不同的physical id 就有多少个CPU
siblings记录了对应的物理CPU有多少个逻辑核,逻辑核就是物理CPU用HT技术虚拟出来的逻辑处理单元比如1核2线程。

再为初学者同步一个进程和线程的概念。

一个核心只能同时执行一个线程。进程是操作系统进行资源(包括cpu、内存、磁盘IO等)分配的最小单位。线程是cpu调度和分配的基本单位。我们打开的聊天工具,浏览器都是一个进程。进程可能有多个子任务,比如聊天工具要接受消息,发送消息,这些子任务就是线程。资源分配给进程,线程共享进程资源。关于更进一步的线程消耗我们后续的贴子里讲。

那么有了CPU个数,我们就可以判断出,当平均负载大于CPU个数的时候,系统就出现了过载。不过平均负载有1分钟,5跟中和15分钟。我们要参考哪一个?实际上都要看。比如上午11点的望京站一点都不堵,我们不能判断望京站不堵。那具体我们要怎么看?

1.如果1分钟、5分钟、15分钟的三个值基本相同,或者相差不大,那就说明系统负载很平稳。
2.如果1分钟的值远小于15分钟说明最近1分钟负载在减小。相反则说明最近1分钟负载在增加。

如果在实际生产环境中,平均负载高于CPU数量70%的时候,我们就要关注了。

平均负载和CPU利用率

我们在实际工作中,很容易把平均负载和CPU使用率混淆。平均负载指的是平均进程数,它不仅包括了正在使用CPU的进程,还包括了等待CPU和等待I/O的进程。
而CPU使用率,是单位时间内CPU繁忙情况的统计,跟平均负载并不一定完全对应,比如:

CPU密集型进程,使用大量CPU会导致平均负载升高。此时两者是一致的。
I/O密集型进程,等待I/O也会导致平均敷在升高,但CPU使用率不一定高。
大量等待CPU的进程调度也会导致平均负载升高,此时的CPU使用率也会比较高。

如果需要看上述三种情况的具体细节,我们可以用iostat、mpstat、pidstat等工具,找出平均负载升高的根源。

下面根据上述的三种情况我们一起来测试一下:

测试前先记录一下一段时间的平均负载
image

场景一:开启一个终端运行stress命令,模拟一个CPU使用率100%的情况。

image
执行Uptime可以看到平均负载上升
image
执行mpstat可以看到一个CPU跑满
image
再开启一个终端运行pidstat来查看哪个进程导致这种情况
image
可以看到是stress进程导致的100%

场景二:开启一个终端运行I/O密集型进程模拟I/O压力, 即不停执行sync(缓存写盘):

(这里使用stress的升级版stress-ng,因为新的虚拟机可能缓存区比较小。做sync操作大部分消耗都在系统消耗内。)
开启终端运行uptime查看平均负载
image
再执行mpstat查看,这次的CPU平均负载升高是因为大量的IO请求待处理。
image
在第三个终端上可以用pidstat查看哪个进程导致了io升高
image
可以看到同样是stress造成的。

场景三:开启一个终端用stress模拟CPU繁忙的场景,由于我们实验实例是2核心的CPU,测试就用4个进程模拟做运算。

image
再用uptime查看下平均负载情况
image
再开启一个终端用mpstat查看CPU使用率的变化情况
image
可以看到平均负载慢慢增加到1.17。另一个终端可以看到CPU利用率为99.8%。iowait只有0.01,说明平均负载升高由于CPU过度繁忙。
我们再用pidstat命令查看那个进程导致CPU飙升,可以看到是我们进行性能测试的stress进程导致。
image

PS:过程中我们试图将stress的 —cpu参数调制100。系统运行基础指令都开始卡顿。

如此我们可以归纳下平均负载

平均负载提供了一个快速查看整体系统性能的手段,反映了整体的负载情况。但只看平均负载本身并不能直接看到问题出现在哪里。所以我们可以关注上述的三种可以使CPU平均负载上升的情况。可以用uptime先看分时段的CPU平均负载。用mpstat查看平均负载升高是由于什么原因。pidstat来查看究竟是哪个进程造成了平均负载的升高。

相关文章
|
10天前
|
Java Linux
Springboot 解决linux服务器下获取不到项目Resources下资源
Springboot 解决linux服务器下获取不到项目Resources下资源
|
13天前
|
Linux
linux下搭建tftp服务器教程
在Linux中搭建TFTP服务器,需安装`tftp-server`(如`tftpd-hpa`)。步骤包括:更新软件包列表,安装`tftpd-hpa`,启动并设置开机自启,配置服务器(编辑`/etc/default/tftpd-hpa`),添加选项,然后重启服务。完成后,可用`tftp`命令进行文件传输。例如,从IP`192.168.1.100`下载`file.txt`: ``` tftp 192.168.1.100 <<EOF binary put file.txt quit EOF ```
28 4
|
6天前
|
Linux 数据安全/隐私保护
Linux基础与服务器架构综合小实践
【4月更文挑战第9天】Linux基础与服务器架构综合小实践
1192 6
|
18天前
|
Ubuntu Linux 虚拟化
【Linux】ubuntu安装samba服务器
【Linux】ubuntu安装samba服务器
|
18天前
|
Linux
Linux安装bind9搭建自己的域名服务器
Linux安装bind9搭建自己的域名服务器
11 0
|
21天前
|
网络协议 Linux 网络安全
Linux服务器DNS服务器配置实现bind的正向解释和反向解释
Linux服务器DNS服务器配置实现bind的正向解释和反向解释
17 0
|
22天前
|
存储 弹性计算 前端开发
ECS负载问题之前端包加载很慢如何解决
ECS(Elastic Compute Service,弹性计算服务)是云计算服务提供商提供的一种基础云服务,允许用户在云端获取和配置虚拟服务器。以下是ECS服务使用中的一些常见问题及其解答的合集:
|
11天前
|
Web App开发 Linux 网络安全
工作中常用到的Linux命令
工作中常用到的Linux命令
|
11天前
|
Web App开发 Java Linux
Linux之Shell基本命令篇
Linux之Shell基本命令篇
Linux之Shell基本命令篇