kafka学习记录

本文涉及的产品
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
简介: 消息系统kafka:支持协议仿AMQP,动态扩容(支持zk),支持负载均衡、集群。     (事物:多个全部提交,要么全部成功,要么全部失败。)AMQP: 高级消息队列   advanced message  queue  protocol。

spacer.gif

消息系统

kafka:支持协议仿AMQP,动态扩容(支持zk),支持负载均衡、集群。

     

(事物:多个全部提交,要么全部成功,要么全部失败。)

AMQP: 高级消息队列   advanced message  queue  protocol。

三个组件:

      broker即为一个实例

 

spacer.gif

kafka0.8 :  增加备份功能。

官方文档:  kafka.apache.org/documentation.html#quickstart

kafka集群搭建:

     1、搭建

     2、配置文件介绍

     

软件环境:linux ,需要有zookeeper集群,  版本选择0.8.1 ,kafka_源码包

配置文件:

     server.properties   

     (不推荐使用默认的zookeeper)

      broker.id=0    实例id 集群中的唯一标示

     prot=9092

      host.name=2.2.2.2  (把配置的话 ,会进行dns解析,会产生文件句柄数泄露,导致故障)

      message.max.byte=5M  每条消息最大5M

     log.dirs=dir1,dir2   消息 

     default.replication.factor=2 默认副本数

     replica.fethc.max.bytes=5M

      zookeeper.connect=1.1.1.1:2188,1.1.1.2:2188,1.1.1.3:2188  (zookeeper集群)

      log.retention.hours=168   默认存储7天。

      log.segment.bytes=111111111  文件大小

      log.cleaner.enable=false    log压缩功能

     consumer.properties

      group.id=test1group 

     producer.properties

       producer.type=sync   同步     发送方式

        compression.codec   压缩方式

      

日志:

          server.log  运行日志

          controler.log  控制机器日志

          

     

启动:

     kafka-server-start.sh  -daemon .../config/server.properties

      以后台进程方式启动

创建一个topic:

     ./kafka-topics.sh   --create --zookeeper localhost:2181 --replication-factor 2  --partitions 1   --topic test

查看topic:

      ./kafka-topic.sh --list --zookeeper localhost:2181

启动comsumer.sh程序  (消息订阅)

     ./kafka-console-consumer.sh --zookeeper localhost:2181  --topic  test  --from-beginning 

启动producer程序 (消息发送)

      ./kafka-console-producer.sh --broker-list 2.2.2.2:9092 --topic test   

       

查询topic:

    


目录
相关文章
|
9月前
|
消息中间件 安全 Java
kafka入门必备知识
Kafka是一个分布式流处理平台: 1. 可以让你发布和订阅流式的记录。这一方面与消息队列或者企业消息系统类似。 2. 可以储存流式的记录,并且有较好的容错性。 3. 可以在流式记录产生时就进行处理。
88 1
|
10月前
|
消息中间件 负载均衡 监控
【Kafka从入门到放弃系列 零】Kafka看这一篇就够了(三)
【Kafka从入门到放弃系列 零】Kafka看这一篇就够了(三)
110 0
|
10月前
|
消息中间件 存储 负载均衡
【Kafka从入门到放弃系列 零】Kafka看这一篇就够了(一)
【Kafka从入门到放弃系列 零】Kafka看这一篇就够了
215 0
|
10月前
|
消息中间件 存储 缓存
【Kafka从入门到放弃系列 零】Kafka看这一篇就够了(二)
【Kafka从入门到放弃系列 零】Kafka看这一篇就够了
180 0
|
消息中间件 监控 Java
Kafka笔记
Kafka笔记
76 0
Kafka笔记
|
消息中间件 安全 Java
Kafka 使用-知识点 | 学习笔记
快速学习 Kafka 使用-知识点
139 0
|
消息中间件 存储 负载均衡
kafka学习 之 简介
kafka学习 之 简介
168 0
kafka学习 之 简介
|
消息中间件 存储 安全
关于 Kafka 的一些面试题目
上周客串了一下面试官,在这里就简单记录一下期间我问到的一些关于 Kafka 的面试题目,这些都是我平时在学习 Kafka 的一些总结要点。
113 0
关于 Kafka 的一些面试题目
|
消息中间件 存储 负载均衡
Kafka入门教程与详解(一)
Kafka入门教程与详解(一)
515 0
Kafka入门教程与详解(一)
|
消息中间件 存储 网络协议
Kafka入门教程与详解(二)
Kafka入门教程与详解(二)
206 0
Kafka入门教程与详解(二)