HBase 集群监控

简介:

为什么需要监控?

为了保证系统的稳定性,可靠性,可运维性。

  1. 掌控集群的核心性能指标,了解集群的性能表现。
  2. 集群出现问题时及时报警,便于运维同学及时修复问题。
  3. 集群重要指标值异常时进行预警,将问题扼杀在摇篮中,不用等集群真正不可用时才采取行动。
  4. 当集群出现问题时,监控系统可以帮助我们更快的定位问题和解决问题

如何构建 HBase 集群监控系统?

公司有自己的监控系统,我们所要做的就是将 HBase 中我们关心的指标项发送到监控系统去,问题就转换为我们开发,采集并返回哪些 HBase 集群监控指标项。

HBase 集群监控指标

采集的监控数据主要包括以下几个方面:某台机器 OS 层面上的数据,例如 CPU、内存、磁盘、网络、load、网络流量等;某台 regionserver(或master)机器 jvm 的状态,例如关于线程的信息,GC 的次数和时间,内存使用状况,以及 ERROR、WARN、Fatal 事件出现的次数;regionserver(或 master)进程中的统计信息。

可以通过以下地址获取 HBase 提供的 JMX 信息的 web 页面

http://your_master:60010/jmx  //所有的bean

JMX web 页面的数据格式是json格式,信息很多!

OS 监控数据

HBase 中对于 OS 的监控数据,主要是 OperatingSystem 的对象来进行的,如下就是我提取出来的 JSON 信息,

{
    "name" : "java.lang:type=OperatingSystem",
    "modelerType" : "com.sun.management.UnixOperatingSystem",
    "MaxFileDescriptorCount" : 1000000,
    "OpenFileDescriptorCount" : 413,
    "CommittedVirtualMemorySize" : 1892225024,
    "FreePhysicalMemorySize" : 284946432,
    "FreeSwapSpaceSize" : 535703552,
    "ProcessCpuLoad" : 0.0016732901066722444,
    "ProcessCpuTime" : 59306210000000,
    "SystemCpuLoad" : 0.018197029910060655,
    "TotalPhysicalMemorySize" : 16660848640,
    "TotalSwapSpaceSize" : 536862720,
    "AvailableProcessors" : 8,
    "Arch" : "amd64",
    "SystemLoadAverage" : 0.0,
    "Name" : "Linux",
    "Version" : "2.6.32-431.11.7.el6.ucloud.x86_64",
    "ObjectName" : "java.lang:type=OperatingSystem"
  }

其中比较重要的指标有 OpenFileDescriptorCount , FreePhysicalMemorySize , ProcessCpuLoad , SystemCpuLoad , AvailableProcessors , SystemLoadAverage

JVM 监控数据

Hbase 中对于 JVM 的监控数据,主要是 JvmMetrics 的对象来进行的,如下就是我提取出来的 JSON 信息,

{
    "name" : "Hadoop:service=HBase,name=JvmMetrics",
    "modelerType" : "JvmMetrics",
    "tag.Context" : "jvm",
    "tag.ProcessName" : "Master",
    "tag.SessionId" : "",
    "tag.Hostname" : "uhadoop-qrljqo-master2",
    "MemNonHeapUsedM" : 53.846107,
    "MemNonHeapCommittedM" : 85.84375,
    "MemNonHeapMaxM" : 130.0,
    "MemHeapUsedM" : 79.05823,
    "MemHeapCommittedM" : 240.125,
    "MemHeapMaxM" : 989.875,
    "MemMaxM" : 989.875,
    "GcCountParNew" : 15190,
    "GcTimeMillisParNew" : 72300,
    "GcCountConcurrentMarkSweep" : 2,
    "GcTimeMillisConcurrentMarkSweep" : 319,
    "GcCount" : 15192,
    "GcTimeMillis" : 72619,
    "ThreadsNew" : 0,
    "ThreadsRunnable" : 21,
    "ThreadsBlocked" : 0,
    "ThreadsWaiting" : 144,
    "ThreadsTimedWaiting" : 18,
    "ThreadsTerminated" : 0,
    "LogFatal" : 0,
    "LogError" : 0,
    "LogWarn" : 0,
    "LogInfo" : 0
  }

JvmMetrics 主要统计的信息包括:内存的使用状态信息;GC的统计信息;线程的统计信息;以及事件的统计信息。

内存的统计信息主要是:JVM 当前已经使用的 NonHeapMemory 的大小、以及配置的 NonHeapMemory 的大小;JVM 当前已经使用的 HeapMemory 的大小、以及配置的 HeapMemory 的大小; JVM 运行时的可以使用的最大的内存的大小。

GC 的统计较为简单,仅统计了进程在固定间隔内 GC 的次数和花费的总时间。

线程的统计,主要是统计进程内当前线程的处于 NEW 、RUNNABLE、BLOCKED、WAITING、TIMED_WAITING、TERMINATED 这六种状态下的线程数量。

对于事件的统计,主要统计固定时间间隔内的 Fatal、Error、Warn 以及 Info 的数量。(这块好像不怎么重要)

Region Servers 健康

你也可以通过如下地址:

http://your_master:60010/jmx?qry=Hadoop:service=HBase,name=Master,sub=Server

获得到 Region Servers 健康值:

{
    "name" : "Hadoop:service=HBase,name=Master,sub=Server",
    "modelerType" : "Master,sub=Server",
    "tag.liveRegionServers" : "xxx",
    "tag.deadRegionServers" : "",
    "tag.zookeeperQuorum" : "xxx",
    "tag.serverName" : "xxx2,60000,1495683310213",
    "tag.clusterId" : "e5e044a3-ef9f-48f7-ba63-637376f5fa90",
    "tag.isActiveMaster" : "true",
    "tag.Context" : "master",
    "tag.Hostname" : "xxx",
    "masterActiveTime" : 1495683312239,
    "masterStartTime" : 1495683310213,
    "averageLoad" : 143.66666666666666,
    "numRegionServers" : 3,
    "numDeadRegionServers" : 0,
    "clusterRequests" : 1297834323
  }

MemoryPool

从全部的 JSON 值中你会看到很多种 MemoryPool 值,比如 Par Eden Space 、CMS Perm Gen、Par Survivor Space、CMS Old Gen、Code Cache ,按需获取吧。

总结

任何一个服务的监控系统都是一个不断迭代,不断优化的过程,不可能一开始就做到最好。监控总是比问题发生来的更早一些,而每一次出问题,又进一步加强相应方面的监控,我们需要让监控系统从出问题时才报警到可能出现问题时就预警逐渐过渡,最终让监控系统成为我们保证系统稳定性的一个有力工具。

最后

监控指标有很多,但请按需获取 ! 转载文章请注明原出处,谢谢支持! http://www.54tianzhisheng.cn/2017/10/21/HBase-metrics/

参考资料

1、hbase性能监控(一)

2、hbase性能监控(二)

3、hbase性能监控(三)

4、HBase 集群监控系统构建

5、hbase jmx常用监控指标

推荐相关文章

1、ElasticSearch 单个节点监控

2、ElasticSearch 集群监控

相关实践学习
云数据库HBase版使用教程
  相关的阿里云产品:云数据库 HBase 版 面向大数据领域的一站式NoSQL服务,100%兼容开源HBase并深度扩展,支持海量数据下的实时存储、高并发吞吐、轻SQL分析、全文检索、时序时空查询等能力,是风控、推荐、广告、物联网、车联网、Feeds流、数据大屏等场景首选数据库,是为淘宝、支付宝、菜鸟等众多阿里核心业务提供关键支撑的数据库。 了解产品详情: https://cn.aliyun.com/product/hbase   ------------------------------------------------------------------------- 阿里云数据库体验:数据库上云实战 开发者云会免费提供一台带自建MySQL的源数据库 ECS 实例和一台目标数据库 RDS实例。跟着指引,您可以一步步实现将ECS自建数据库迁移到目标数据库RDS。 点击下方链接,领取免费ECS&RDS资源,30分钟完成数据库上云实战!https://developer.aliyun.com/adc/scenario/51eefbd1894e42f6bb9acacadd3f9121?spm=a2c6h.13788135.J_3257954370.9.4ba85f24utseFl
相关文章
|
19小时前
|
分布式计算 Hadoop Java
Hbase集群搭建
Hbase集群搭建
|
10月前
|
存储 消息中间件 分布式计算
HBase集群部署
HBase集群部署
|
分布式计算 大数据 Hadoop
HBase集群安装部署
1. 服务器配置好,搭建大数据集群服务器看这篇:[搭建学习使用的大数据集群环境:windows使用vmware安装三台虚拟机,配置好网络环境]
309 0
HBase集群安装部署
|
SQL 分布式计算 Hadoop
Hbase故障处理汇总及评注(一)
Hbase故障处理汇总及评注(一)
1222 0
|
分布式计算 运维 Java
Hbase故障处理汇总及评注(二)
Hbase故障处理汇总及评注(二)
1490 0
|
分布式计算 Hadoop 分布式数据库
HBase 部署
HBase 部署
100 0
|
存储 监控 Java
HBase-1.2.1集群搭建
HBase-1.2.1集群搭建
97 0
|
Prometheus 分布式计算 监控
|
分布式数据库 Hbase 数据库
如何在HBase中创建一个集群?
本文主要介绍如何在HBase中创建一个集群。 首先来到HBase的控制台。域名如下:https://hbase.console.aliyun.com。然后我们会看到这边需要选择一个集群位置,点击创建按钮。
1817 0