07【在线日志分析】之kafka-manager监控工具的搭建(sbt安装与编译)

简介: 1.下载sbthttp://www.scala-sbt.org/download.html [root@sht-sgmhadoopnn-01 app]# rzrz waiting to receive.

1.下载sbt
http://www.scala-sbt.org/download.html

[root@sht-sgmhadoopnn-01 app]# rz
rz waiting to receive.
Starting zmodem transfer.  Press Ctrl+C to cancel.
Transferring sbt-0.13.13.tgz...
  100%    1025 KB    1025 KB/sec    00:00:01       0 Errors 

2.解压
[root@sht-sgmhadoopnn-01 app]# tar -zxvf sbt-0.13.13.tgz
sbt-launcher-packaging-0.13.13/
sbt-launcher-packaging-0.13.13/conf/
sbt-launcher-packaging-0.13.13/conf/sbtconfig.txt
sbt-launcher-packaging-0.13.13/conf/sbtopts
sbt-launcher-packaging-0.13.13/bin/
sbt-launcher-packaging-0.13.13/bin/sbt.bat
sbt-launcher-packaging-0.13.13/bin/sbt
sbt-launcher-packaging-0.13.13/bin/sbt-launch.jar
sbt-launcher-packaging-0.13.13/bin/sbt-launch-lib.bash
[root@sht-sgmhadoopnn-01 app]# mv sbt-launcher-packaging-0.13.13 sbt

3.添加脚本文件
[root@sht-sgmhadoopnn-01 bin]# vi sbt
#!/usr/bin/env bash

BT_OPTS="-Xms512M -Xmx1536M -Xss1M -XX:+CMSClassUnloadingEnabled -XX:MaxPermSize=256M"
java $SBT_OPTS -jar /root/learnproject/app/sbt/bin/sbt-launch.jar "$@"


4.修改权限和环境变量
[root@sht-sgmhadoopnn-01 bin]# chmod u+x sbt

[root@sht-sgmhadoopnn-01 bin]# vi /etc/profile

export SBT_HOME=/root/learnproject/app/sbt

export PATH=$SBT_HOME/bin:$SPARK_HOME/bin:$SCALA_HOME/bin:$HADOOP_HOME/bin:$MAVEN_HOME/bin:$JAVA_HOME/bin:$PATH
"/etc/profile" 94L, 2265C written
[root@sht-sgmhadoopnn-01 bin]# source /etc/profile


5.测试
/*第一次执行时,会下载一些文件包,然后才能正常使用,要确保联网了,安装成功后显示如下*/
[root@sht-sgmhadoopnn-01 bin]# sbt sbt-version
[info] Set current project to bin (in build file:/root/learnproject/app/sbt/bin/)
[info] 0.13.13
[info] Set current project to bin (in build file:/root/learnproject/app/sbt/bin/)
[info] 0.13.13
[root@sht-sgmhadoopnn-01 bin]#

 

---------------------------------------------------------------------------------------------
因为kafka-manager编译需要jdk1.8

 1.安装jdk1.8
[root@sht-sgmhadoopnn-01 app]# cd /usr/java
[root@sht-sgmhadoopnn-01 java]# ll
total 4
drwxr-xr-x 8 root root 4096 Nov 17  2015 jdk1.7.0_67-cloudera
[root@sht-sgmhadoopnn-01 java]# rz
rz waiting to receive.
Starting zmodem transfer.  Press Ctrl+C to cancel.
Transferring jdk-8u102-linux-x64.tar.gz...
  100%  177183 KB     425 KB/sec    00:06:56       0 Errors 

[root@sht-sgmhadoopnn-01 java]# ll
total 177192
drwxr-xr-x 8 root root      4096 Nov 17  2015 jdk1.7.0_67-cloudera
-rw-r--r-- 1 root root 181435897 Jun 28 00:02 jdk-8u102-linux-x64.tar.gz
[root@sht-sgmhadoopnn-01 java]# tar -xzvf jdk-8u102-linux-x64.tar.gz

 

[root@sht-sgmhadoopnn-01 java]# vi /etc/profile
export PATH=/usr/java/jdk1.8.0_102/bin:$SBT_HOME/bin:$SPARK_HOME/bin:$SCALA_HOME/bin:$HADOOP_HOME/bin:$MAVEN_HOME/bin:$JAVA_HOME/bin:$PATH

[root@sht-sgmhadoopnn-01 java]# source /etc/profile

 

---------------------------------------------------------------------------------------------
https://github.com/yahoo/kafka-manager

Requirements:
 Kafka 0.8.1.1 or 0.8.2.* or 0.9.0.*
 Java 8+

1.下载,使用sbt编绎
[root@sht-sgmhadoopnn-01 ~]# cd /root/learnproject/compilesoft
[root@sht-sgmhadoopnn-01 compilesoft]# git clone https://github.com/yahoo/kafka-manager.git
[root@sht-sgmhadoopnn-01 compilesoft]# cd kafka-manager/

[root@sht-sgmhadoopnn-01 kafka-manager]# sbt clean dist
[info] Your package is ready in /root/learnproject/compilesoft/kafka-manager/target/universal/kafka-manager-1.3.2.1.zip
[info]
[success] Total time: 126 s, completed Dec 26, 2016 2:44:17 PM


2.解压
[root@sht-sgmhadoopnn-01 kafka-manager]# mv /root/learnproject/compilesoft/kafka-manager/target/universal/kafka-manager-1.3.2.1.zip /root/learnproject/app/
[root@sht-sgmhadoopnn-01 kafka-manager]# cd ../

[root@sht-sgmhadoopnn-01 app]# unzip kafka-manager-1.3.2.1.zip
[root@sht-sgmhadoopnn-01 app]# cd kafka-manager-1.3.2.1/conf
[root@sht-sgmhadoopnn-01 conf]# vi application.conf
kafka-manager.zkhosts="172.16.101.58:2181,172.16.101.59:2181,172.16.101.60:2181/kafka"

3.后台运行
[root@sht-sgmhadoopnn-01 kafka-manager-1.3.2.1]# nohup ./bin/kafka-manager -Dconfig.file=./conf/application.conf -Dhttp.port=9999 -java-home /usr/java/jdk1.8.0_102 >kafka-manager.log 2>&1 &


http://172.16.101.55:9999/

4.添加Cluster

a.Add Cluster
   Cluster Name: onlinelog_analysis_kafkacluster
   Cluster Zookeeper Hosts: 172.16.101.58:2181,172.16.101.59:2181,172.16.101.60:2181/kafka
   勾选上 Enable JMX Polling (Set JMX_PORT env variable before starting kafka server)
   再勾选下方的指标信息(参考截图)

   单击Save按钮

 b.Brokers

 

 

目录
相关文章
|
3月前
|
存储
优秀开源日志平台GrayLog5.0一键安装脚本
优秀开源日志平台GrayLog5.0一键安装脚本
89 0
|
4月前
|
消息中间件 分布式计算 大数据
【大数据技术Hadoop+Spark】Flume、Kafka的简介及安装(图文解释 超详细)
【大数据技术Hadoop+Spark】Flume、Kafka的简介及安装(图文解释 超详细)
66 0
|
1月前
|
消息中间件 Java Kafka
Kafka【环境搭建 01】kafka_2.12-2.6.0 单机版安装+参数配置及说明+添加到service服务+开机启动配置+验证+chkconfig配置说明(一篇入门kafka)
【2月更文挑战第19天】Kafka【环境搭建 01】kafka_2.12-2.6.0 单机版安装+参数配置及说明+添加到service服务+开机启动配置+验证+chkconfig配置说明(一篇入门kafka)
46 1
|
1月前
|
消息中间件 Kafka Linux
Kafka【付诸实践 03】Offset Explorer Kafka 的终极 UI 工具安装+简单上手+关键特性测试(一篇学会使用 Offset Explorer)
【2月更文挑战第21天】Kafka【付诸实践 03】Offset Explorer Kafka 的终极 UI 工具安装+简单上手+关键特性测试(一篇学会使用 Offset Explorer)
154 2
|
2月前
|
缓存 Oracle Java
Flink CDC编译问题之编译后看不到变更日志如何解决
Flink CDC编译指的是将Flink CDC源代码转换成可执行程序的过程,可能会涉及到依赖管理和环境配置等问题;本合集将介绍Flink CDC编译的步骤、常见错误及其解决办法,以确保顺利完成编译过程。
|
2月前
|
应用服务中间件 API nginx
|
2月前
|
消息中间件 Java Kafka
docker安装kafka(wurstmeister)
docker安装kafka(wurstmeister)
106 0
|
3月前
|
Linux Shell
开源日志平台GrayLog5.1.10 CentOS7一键安装脚本
开源日志平台GrayLog5.1.10 CentOS7一键安装脚本
96 0
|
3月前
|
Linux
开源日志平台GrayLog5.1.7 CentOS7一键安装脚本
开源日志平台GrayLog5.1.7 CentOS7一键安装脚本
81 1
|
3月前
开源日志平台GrayLog5.1.2一键安装脚本
开源日志平台GrayLog5.1.2一键安装脚本
48 0