良许Linux教程网 干货合集 Linux下部署分布式消息系统Kafka

Linux下部署分布式消息系统Kafka

Kafka是最初由Linkedin公司开发,是一个分布式、支持分区的(partition)、多副本的(replica),基于zookeeper协调的分布式消息系统,它的最大的特性就是可以实时的处理大量数据以满足各种需求场景:比如基于hadoop的批处理系统、低延迟的实时系统、storm/Spark流式处理引擎,web/nginx日志、访问日志,消息服务等等。

image-20211130123549276

Kafka:2.12-2.5.0

1、安装JDK 1.8

yum -y install java-1.8.0*

java -version 命令查看JDK版本,如图安装成功:

img

2、安装zookeeper服务

参考文章:Linux下ZooKeeper的安装及使用

3、创建工作目录,下载安装包:

#创建安装目录

mkdir -p /opt/kafka



#移动到目录

cd /opt/kafka



#下载kafka安装包

wget https://mirrors.aliyun.com/apache/kafka/2.5.0/kafka_2.12-2.5.0.tgz



#解压缩

tar -zxvf kafka_2.12-2.5.0.tgz

4、配置文件:

#进入配置目录

cd kafka_2.12-2.5.0/config/



#备份配置文件

cp server.properties server.properties.bak



#修改配置文件

vim server.properties



#修改及添加以下配置

broker.id=1

listeners=PLAINTEXT://127.0.0.1:9092

advertised.listeners=PLAINTEXT://127.0.0.1:9092



#其他自定义配置(根据实际修改)

zookeeper.connect=127.0.0.1:2181

zookeeper.connection.timeout.ms=18000



#保存退出

:wq

#配置说明 broker.id:当前机器在集群中的唯一标识。例如有三台Kafka主机,则分别配置为1,2,3。

listeners:服务监听端口。

advertised.listeners:提供给生产者,消费者的端口号,即外部访问地址。默认为listeners的值。

zookeeper.connect:zookeeper连接地址。如有集群配置,每台Kafka主机都需要连接全部zookeeper服务,实例如下:

zookeeper.connect=192.168.1.41:2181,192.168.1.42:2181,192.168.1.47:2181

zookeeper.connection.timeout.ms:zookeeper连接超时时间。

5、启动Kafka:

(首先确保已启动zookeeper)

#移到工作目录

cd /opt/kafka/kafka_2.12-2.5.0/bin/



#启动kafka

./kafka-server-start.sh -daemon ../config/server.properties



#关闭kafka服务

./kafka-server-stop.sh

查看端口已被监听,启动成功:

img

6、测试创建一个topic:

#移到工作目录

cd /opt/kafka/kafka_2.12-2.5.0/bin/



#创建topic

./kafka-topics.sh --create --zookeeper 127.0.0.1:2181 --replication-factor 1 --partitions 1 --topic topic1



#查看topic信息

./kafka-topics.sh --describe --zookeeper 127.0.0.1:2181 --topic topic1
img
#启动生产者控制台

./kafka-console-producer.sh --broker-list 127.0.0.1:9092 --topic topic1



#启动消费者控制台(新开一个窗口)

./kafka-console-consumer.sh --bootstrap-server 127.0.0.1:9092 --topic topic1 --from-beginning

此时在生成者控制台发一条测试消息,消费者控制台即可收到:

img
img

以上就是良许教程网为各位朋友分享的Linu系统相关内容。想要了解更多Linux相关知识记得关注公众号“良许Linux”,或扫描下方二维码进行关注,更多干货等着你 !

img
本文由 良许Linux教程网 发布,可自由转载、引用,但需署名作者且注明文章出处。如转载至微信公众号,请在文末添加作者公众号二维码。
良许

作者: 良许

良许,世界500强企业Linux开发工程师,公众号【良许Linux】的作者,全网拥有超30W粉丝。个人标签:创业者,CSDN学院讲师,副业达人,流量玩家,摄影爱好者。
上一篇
下一篇

发表评论

邮箱地址不会被公开。 必填项已用*标注

联系我们

联系我们

公众号:良许Linux

在线咨询: QQ交谈

邮箱: yychuyu@163.com

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部