联系管理员

开通文章发布权限

扫码 添加微信
微信图片
电话:18888888888 QQ:

kafka服务2.3.0版本(单机版)搭建手册

Kafka是由Apache软件基金会开发的一个开源流处理平台,由Scala和Java编写。Kafka是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者在网站中的所有动作流数据。 这种动作(网页浏览,搜索和其他用户的行动)是在现代网络上的许多社会功能的一个关键因素。 这些数据通常是由于吞吐量的要求而通过处理日志和日志聚合来解决。 对于像Hadoop一样的日志数据和离线分析系统,但又要求实时处理的限制,这是一个可行的解决方案。Kafka的目的是通过Hadoop的并行加载机制来统一线上和离线的消息处理,也是为了通过集群来提供实时的消息。

1、环境相关

1.1环境简介

系统版本软件版本部署方式部署路径日志路径
Centos 7.6kafka2.3.0解压安装data/kafka/data/kafka/logs

 

系统版本软件版本部署方式部署路径数据路径日志路径
Centos 7.6zookeeper3.10.0解压安装data/zookeeper/data/zookeeper_data/data/zookeeper/logs

1.2资源规划

主机名IPCPU内存磁盘模式
test-kafka10.255.x.248100单机

2、安装准备

2.1安装jdk

tar -zxvf jdk-8u291-linux-x64.tar.gz
mv jdk1.8.0_291 /usr/local/java

在/etc/profile中添加以下内容

export JAVA_HOME=/usr/local/java
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
export PATH=$PATH:$JAVA_HOME/bin

执行命令

source /etc/profile

查看jdk的版本

java –version

3、安装步骤

3.1安装zookeeper

下载zookeeper

wget  https://mirrors.tuna.tsinghua.edu.cn/apache/zookeeper/zookeeper-3.6.3/apache-zookeeper-3.6.3-bin.tar.gz

解压zookeeper

tar -zxvf apache-zookeeper-3.6.3-bin.tar.gz
mv apache-zookeeper-3.6.3-bin zookeeper

3.2安装kafka

下载kafka

wget https://archive.apache.org/dist/kafka/2.3.0/kafka_2.11-2.3.0.tgz

解压kafka

tar -zxvf kafka_2.11-2.3.0.tgz
mv kafka_2.11-2.3.0 kafka

4、服务配置

4.1修改zookeeper配置

修改配置文件

cd /root/zookeeper/conf
cp zoo_sample.cfg zoo.cfg

修改以下内容

vi zoo.cfg
dataDir=/data/zookeeper_data

4.2修改kafka配置

vi /root/kafka/config/server.properties
listeners=PLAINTEXT://:9092

5、启动配置

5.1命令启动

启动zookeeper

cd /root/zookeeper/bin
./zkServer.sh start

启动kafka

cd /root/kafka/bin
./kafka-server-start.sh -daemon ../config/server.properties
``` 
## 6、服务验证
### 6.1验证端口或者进程
查看端口:
```bash
netstat -anpo | grep 9092
netstat -anpo | grep 2181

查看进程:

ps -ef | grep kafka
netstat -anpo | grep java

7、服务卸载

直接将对应的目录进行删除

8、FAQ

相关文章

neo4j部署手册
Neo4j是一个高性能的,NOSQL图形数据库,它将结构化数据存储在网络上而不是表中。它是一个嵌入式的、基于磁盘的、具备完全的事务特性的Java持久化引擎,但是它将结构化数据存储在网络(从数学角度叫做图)上而不是表中。Neo4j也可以被看作是一个高性能的图引擎,该引擎具有成熟数据库的所有特性。程序员工作在一个面向对象的、灵活的网络结构下而不是严格、静态的表中——但是他们可以享受到具备完全的事务特性、企业级的数据库的所有好处。
DataX和DataX-WEB 安装步骤
DataX 是阿里云 DataWorks数据集成 的开源版本,在阿里巴巴集团内被广泛使用的离线数据同步工具/平台。DataX 实现了包括 MySQL、Oracle、OceanBase、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(OTS)、 MaxCompute(ODPS)、Hologres、DRDS, databend 等各种异构数据源之间高效的数据同步功能。
K8S集群搭建手册(集群版)
kubernetes,简称K8s,是用8代替名字中间的8个字符“ubernete”而成的缩写。是一个开源的,用于管理云平台中多个主机上的容器化的应用,Kubernetes的目标是让部署容器化的应用简单并且高效(powerful),Kubernetes提供了应用部署,规划,更新,维护的一种机制。
Apollo部署手册
Apollo(阿波罗)是携程框架部门研发的分布式配置中心,能够集中化管理应用不同环境、不同集群的配置,配置修改后能够实时推送到应用端,并且具备规范的权限、流程治理等特性,适用于微服务配置管理场景。

评论

快捷导航

把好文章收藏到微信

打开微信,扫码查看

关闭

还没有账号?立即注册