史上最全最常用 ELK 工具清单

本文涉及的产品
检索分析服务 Elasticsearch 版,2核4GB开发者规格 1个月
可观测可视化 Grafana 版,10个用户账号 1个月
简介: 工欲善其事必先利其器,ELK Stack的学习和实战更是如此,此次分享的学习工具希望大家能借此提高开发、运维效率

image


1、题记
工欲善其事必先利其器,ELK Stack的学习和实战更是如此,特将工作中用到的“高效”工具分享给大家。
希望能借助“工具”提高开发、运维效率!

2、工具分类概览

2.1 基础类工具

1、Head插件
1)功能概述:
ES集群状态查看、索引数据查看、ES DSL实现(增、删、改、查操作)
比较实用的地方:json串的格式化

image


2)地址: http://mobz.github.io/elasticsearch-head/

2、Kibana工具
除了支持各种数据的可视化之外,最重要的是:支持Dev Tool进行RESTFUL API增删改查操作。
——比Postman工具和curl都方便很多。

image


地址: https://www.elastic.co/products/kibana

3、ElasticHD工具
强势功能——支持sql转DSL,不要完全依赖,可以借鉴用。

image

2.2 集群监控工具

4、cerebro工具

image


地址: https://github.com/lmenezes/cerebro

5、Elaticsearch-HQ工具

管理elasticsearch集群以及通过web界面来进行查询操作

image


image


地址: https://github.com/royrusso/elasticsearch-HQ

2.3 集群迁移工具

6、Elasticsearch-migration工具

支持多个版本间的数据迁移,使用scroll+bulk

地址:https://github.com/medcl/elasticsearch-migration

7、Elasticsearch-Exporter

将ES中的数据向其他导出的简单脚本实现。

地址:https://github.com/mallocator/Elasticsearch-Exporter

8、Elasticsearch-dump

移动和保存索引的工具。

地址:https://github.com/taskrabbit/elasticsearch-dump

2.4 集群数据处理工具

9、elasticsearch-curator

elasticsearch官方工具,能实现诸如数据只保留前七天的数据的功能。

地址:https://pypi.python.org/pypi/elasticsearch-curator

另外 ES6.3(还未上线) 有一个 Index LifeCycle Management 可以很方便的管理索引的保存期限。

2.5 安全类工具

10、x-pack工具

image

地址:https://www.elastic.co/downloads/x-pack

11、search-guard 第三方工具

Search Guard 是 Elasticsearch 的安全插件。它为后端系统(如LDAP或Kerberos)提供身份验证和授权,并向Elasticsearch添加审核日志记录和文档/字段级安全性。

Search Guard所有基本安全功能(非全部)都是免费的,并且内置在Search Guard中。 Search Guard支持OpenSSL并与Kibana和logstash配合使用。

地址:https://github.com/floragunncom/search-guard

2.6 可视化类工具

12、grafana工具

image

地址:https://grafana.com/grafana

grafana工具与kibana可视化的区别:

如果你的业务线数据较少且单一,可以用kibana做出很棒很直观的数据分析。

而如果你的数据源很多并且业务线也多,建议使用grafana,可以减少你的工作量

对比:https://www.zhihu.com/question/54388690

image

2.7 自动化运维工具

elasticsearch免费的自动化运维工具

13、Ansible

https://github.com/elastic/ansible-elasticsearch

14、Puppet

https://github.com/elastic/puppet-elasticsearch

15、Cookbook

https://github.com/elastic/cookbook-elasticsearch

以上三个工具来自medcl大神社区问题的回复,我没有实践过三个工具。

2.8 类SQl查询工具

16、Elasticsearch-sql 工具

sql 一款国人NLP-china团队写的通过类似sql语法进行查询的工具

地址:https://github.com/NLPchina/elasticsearch-sql

ES6.3+以后的新版本会集成sql。

2.9 增强类工具

17、Conveyor 工具

kibna插件——图形化数据导入工具

地址:http://t.cn/REOhwGT

18、kibana_markdown_doc_view 工具

Kibana文档查看强化插件,以markdown格式展示文档

地址:http://t.cn/REOhKgB

19、 indices_view工具

indices_view 是新蛋网开源的一个 kibana APP 插件项目,可以安装在 kibana 中,快速、高效、便捷的查看elasticsearch 中 indices 相关信息

地址:https://gitee.com/newegg/indices_view

20、dremio 工具

image


image

支持sql转DSL,

支持elasticsearch、mysql、oracle、mongo、csv等多种格式可视化处理;

支持ES多表的Join操作

地址:https://www.dremio.com/

2.10 报警类

21、elastalert
ElastAlert 是 Yelp 公司开源的一套用 Python2.6 写的报警框架。属于后来 Elastic.co 公司出品的 Watcher 同类产品。

官网地址: http://elastalert.readthedocs.org/

使用举例:当我们把ELK搭建好、病顺利的收集到日志,但是日志里发生了什么事,我们并不能第一时间知道日志里到底发生了什么,运维需要第一时间知道日志发生了什么事,所以就有了ElastAlert的邮件报警。

22、sentinl

SENTINL 6扩展了Siren Investigate和Kibana的警报和报告功能,使用标准查询,可编程验证器和各种可配置操作来监控,通知和报告数据系列更改 - 将其视为一个独立的“Watcher” “报告”功能(支持PNG / PDF快照)。

SENTINL还旨在简化在Siren Investigate / Kibana 6.x中通过其本地应用程序界面创建和管理警报和报告的过程,或通过在Kibana 6.x +中使用本地监视工具来创建和管理警报和报告的过程。

官网地址:https://github.com/sirensolutions/sentinl

3、小结

突然想起鲁迅先生笔下的孔乙己“茴香豆的茴字有几种写法?”

管几种写法,适合自己的工具才是最好的!

原文发布时间为:2018-07-23
本文作者: 高效运维
本文来自云栖社区合作伙伴“ 高效运维,了解相关信息可以关注“ 高效运维

相关实践学习
使用阿里云Elasticsearch体验信息检索加速
通过创建登录阿里云Elasticsearch集群,使用DataWorks将MySQL数据同步至Elasticsearch,体验多条件检索效果,简单展示数据同步和信息检索加速的过程和操作。
ElasticSearch 入门精讲
ElasticSearch是一个开源的、基于Lucene的、分布式、高扩展、高实时的搜索与数据分析引擎。根据DB-Engines的排名显示,Elasticsearch是最受欢迎的企业搜索引擎,其次是Apache Solr(也是基于Lucene)。 ElasticSearch的实现原理主要分为以下几个步骤: 用户将数据提交到Elastic Search 数据库中 通过分词控制器去将对应的语句分词,将其权重和分词结果一并存入数据 当用户搜索数据时候,再根据权重将结果排名、打分 将返回结果呈现给用户 Elasticsearch可以用于搜索各种文档。它提供可扩展的搜索,具有接近实时的搜索,并支持多租户。
相关文章
|
4月前
|
存储 Prometheus 监控
Prometheus vs. ELK Stack:容器监控与日志管理工具的较量
随着容器化技术的广泛应用,容器监控与日志管理成为了关键任务。本文将对两种常用工具进行比较与选择,分别是Prometheus和ELK Stack。Prometheus是一款开源的监控系统,专注于时序数据的收集和告警。而ELK Stack则是一套完整的日志管理解决方案,由Elasticsearch、Logstash和Kibana三个组件组成。通过比较它们的特点、优势和适用场景,读者可以更好地了解如何选择适合自己需求的工具。
|
4月前
|
Prometheus 监控 Cloud Native
Prometheus VS ELK Stack:容器监控与日志管理工具的比较与选择
在容器化时代,有效的容器监控与日志管理工具对于确保应用程序的可靠性和可维护性至关重要。本文将比较两个主流工具,Prometheus和ELK Stack,探讨它们在容器监控和日志管理方面的特点、优势和适用场景,帮助读者做出明智的选择。
|
消息中间件 存储 JSON
不得不学!从零到一搭建ELK日志,在Docker环境下部署 logstash 工具
最近在玩 ELK 日志平台,它是 Elastic 公司推出的一整套日志收集、分析和展示的解决方案。
|
监控 数据可视化 Go
不得不学!从零到一搭建ELK日志,在Docker环境下部署 Filebeat 日志收集工具
最近在玩 ELK 日志平台,它是 Elastic 公司推出的一整套日志收集、分析和展示的解决方案。
|
数据采集 Java 缓存
ELK数据抽取工具logstash报错:Your application used more memory than the safety cap of 1G
版权声明:本文为博主原创文章,如需转载,请标明出处。 https://blog.csdn.net/alan_liuyue/article/details/78976755 问题来源 ...
1302 0
|
数据安全/隐私保护
|
3月前
|
存储 监控 数据可视化
日志分析对决:揭示 ELK 与 GrayLog 的优势和差异
日志分析对决:揭示 ELK 与 GrayLog 的优势和差异
281 0
|
4月前
|
Go 数据处理 Docker
elk stack部署自动化日志收集分析平台
elk stack部署自动化日志收集分析平台
86 0
|
5月前
|
存储 监控 数据可视化
小白带你学习linux的ELK日志收集系统
小白带你学习linux的ELK日志收集系统
166 0
|
4月前
|
存储 监控 安全
ELK7.x日志系统搭建 1. elk基础搭建
ELK7.x日志系统搭建 1. elk基础搭建
74 0