Kafka安装启动以及基本命令

AI权益加码!Claude Code、Cursor等20+工具免费用! 购周边限时加赠Coding Plan Lite,畅享主流AI工具!学习进阶更高效! 阅读详情

最近刚进公司在学spark streaming 相关的知识,所以先把相关的flume、Kafka等学习下,下面给出在安装 启动过程中出现的问题以及解决方法。

一、Kafka安装

(1)apache官网可以下载zookeeper和Kafka,然后解压就可以

(2)gedit ./bashrc 命令配置环境变量, 执行source ./bashrc 使文件生效

二、启动Kafka

执行语句

$KAFKA_HOME/bin/kafka-server-start.sh config/server.properties

遇到问题及解决方法:

(1)内存报错;

解决办法:修改Kafka-server-start.sh 文件,将Xmx1G-Xms1G修改为Xmx256M-Xms128M

(2) 未知的名称或服务

解决办法:修改config/server.properties文件,host.name改为虚拟机IP地址即可

(3)无法启动:ZKTimeoutException:unable connect to zookeeper server within timeout:6000

解决办法:host.name 改为本机IP

以上是本人在启动Kafka中遇到的问题。

三、Kafka基本命令

(1)、创建topic

Kafka-topics.sh --create --zookeeper 127.0.0.1:2181 --replication-factor 1 --partitions 1 --topic test

(2)、查看所以topic的信息

Kafka-topics.sh --list --zookeeper localhost:2181

(3)、查看指定topic的详细信息

Kafka-topics.sh --describe --zookeeper localhost:2181 --topic test

(4)、生产消息

kafka-console-producer.sh --broker-list localhost:9092 --topic test

(5)、消费消息

kafka-console-consumer.sh --zookeeper localhost:2181 --topic test --from-beginning

 

 

 

 

 

 

3. Kafka入门—安装基本命令 官网Kafka基本原理详解(超详细!Apache Kafka 是一个开源分布式事件流平台,用于 数以千计的高性能数据管道、流分析、 数据集成和任务关键型应用程序。 阅读详情

相关推荐

在Windows和docker上安装kafka,及启动命令

windows上安装kafak 去kafka官网下载windows版本——点此跳转 下载好直接解压就可以用了,建议养成好习惯,把这些软件放在一个地方,放便你以后管理 点击进入config文件夹,修改consumer.properties配置 修改zookeeper.properties配置 5. 修改server.properties配置 6. 进入kafka安装目录,对我是D:\ProgramSoftWare\kafka_2.13-2.7.0 ,在目录的搜索里面输入cmd,

邻家 1279

kafka-server-start.sh启动报错:WARN Session 0x0 for server localhost

kafka-server-start.sh启动报错:WARN Session 0x0 for server localhost/<unresolved>:2181 学习来源:百度 CSDN 学习程度:了解 1 前言:之前用SpringBoot-2.2.5 和kafka-2.5.0(后端),kafka-2.5.0(服务端)这三个版本时,每次启动程序都会报有的类找不到,有的资源无法加载,或者是无法构造。 后来把SpringBoot和Kafka后端换成了下面两个版本,2.2.0和2.4....

qq_26036173的博客 6600

Kafka【一】Windows下安装单节点Kafka

当前版本Kafka软件内部依然依赖ZooKeeper进行多节点协调调度,所以启动Kafka软件之前,需要先启动ZooKeeper软件。不过因为Kafka软件本身内置了ZooKeeper软件,所以无需额外安装ZooKeeper软件,直接调用脚本命令启动即可。这里名称为QuorumPeerMain的就是ZooKeeper软件进程,名称为Kafka的就是Kafka系统进程。ZooKeeper软件的指令为Windows环境下的bat批处理文件。DOS窗口中,输入jps指令,查看当前启动的软件进程。

小小默:进无止境 1949

Linux系统下Kafka的搭建与启动

这是我在CSDN上写的第一篇文章,从今天开始准备记录一些自己日常开发中遇到的问题以及技术总结。 由于之前项目中用到了kafka中间件,自己也比较感兴趣,所以准备利用个人时间研究一下这个kafka,废话不多说,先来看看kafka安装与搭建吧。 1.准备工作 Centos、JDK8、zookeeper,Kafka2.11 由于kafka的运行是需要jdk环境的,所以提前将jdk、zookeeper、kafka安装包下载到本地,并通过scp上传到远程服务器。 以下是我准备的文件 1.1 JDK配置 修改/e

Cc的博客 1160

Kafka安装启动用法详解

Kafka安装启动用法详解

IT之一小佬的博客 1万+

bin/kafka-server-start.sh config/server.properties 启动Kafka无响应

一、背景          linux控制台运行 bin/kafka-server-start.sh config/server.properties,没有响应。 二、解决         cat bin/kafka-server-start.sh,查看脚本,发现为空。解决办法就是重新解压kafka安装包,然后将新的bin/kafka-server-start.sh复制过来即可。 ...

fang.lovest.yang的博客 1万+

kafka常用命令

启动zookeeper bin/zookeeper-server-start.sh config/zookeeper.properties & 启动kafka bin/kafka-server-start.sh config/server.properties & 停止kafka bin/kafka-server-stop.sh 停止zookeeper bin

keeper的博客 479

kafka之二 安装启动基本命令

安装启动基本命令 安装jdk和zookeeper和kafka 安装jdk,配置环境变量 下载解压zookeeper之后,打开conf目录,将zoo_sample.cfg修改为zoo.cfg 只需要修改dataDir和dataLofDir,配置数据目录和日志目录,端口也可以修改,clientPort 启动Zookeeper命令 bin/zkServer.sh start 下载解压kafk...

weixin_42672777的博客 173

Kafka 快速入门-安装基本操作

Kafka是一个分布式消息缓存系统 broker Kafka集群包含一个或多个服务器,这种服务器成为broker Topic 每条发布到Kafka集群的消息都有一个类别,这个类别被称为topic(物理上不同的topic的消息分开存储。逻辑上一个topic的消息虽然保存在一个或多个broker上但用户只需指定消息的topic即可生产或 消费数据而不必关心数据存于何处) Partition partition是物理上的一个概念,每个topic包含一个或多...

m0_46538284的博客 260

kafka创建topic命令_kafka安装和常用基本命令说明

一: MAC安装kafka安装kafka依赖java环境,因此你可能需要先安装好java环境。// mac 环境使用brew直接安装kafka brew install kafka // 卸载 brew uninstall kafkamac 安装kafka过程中会自动的安装好zookeeper。启动:// 启动 brew services start kafka brew services...

weixin_39531688的博客 442

kafka安装基本命令(单机版)

单机安装 下载 官方下载地址:http://kafka.apache.org/downloads 我这里下载的版本为: kafka_2.11-2.2.0.tgz 解压 将下载好的 kafka_2.11-2.2.0.tgz 解压到自己指定的目录(我这里指定 /user/local/kafka),命令: tar -zxvf kafka_2.11-2.2.0.tgz -C /user/local/ka...

长风破浪会有33的博客 343

Kafka在Windows安装运行

摘要:本文主要说明了如何在Windows安装运行Kafka

Evankaka的专栏 5万+

kafka安装

文章目录安装包下载 安装包下载 https://www.apache.org/dyn/closer.cgi?path=/kafka/2.6.0/kafka_2.13-2.6.0.tgz localhost:kafka_2.13-2.6.0 gaoxinfu$ pwd /Users/gaoxinfu/using/kafka_2.13-2.6.0 localhost:kafka_2.13-2.6.0 gaoxinfu$ ls -la total 88 drwxr-xr-x@ 9 gaoxinfu sta

高新富的博客 1974

kafka相关管理

一、kafka安装配置 省略 二、kafka基本操作 kafka版本:kafka_2.11-2.1.0 1、kafka基本命令 (1)启动kafka ./kafka-server-start.sh -daemon ../config/server.properties (2)创建主题 ./kafka-topics.sh --create --zookeeper ip:port--r...

wwq123456788的博客 158

mac使用brew安装kafka、如何启动kafka、创建topic、向topic发送消息与读取消息和关闭kafka和zookeeper

1、terminl中执行执行brew install kafka命令安装kafka。 brew install kafka 安装成功后: kakfa对应的路径为:/usr/local/Cellar/kafka/2.5.0。 文件中对应的内容 kakfa的配置文件路径为: /usr/local/etc/kafka 。文件夹对应的内容 2、kafka启动需要zookeeper。安装kafka自带zookeeper啦,当然我们可以自己独立安装。这...

javaZhong的博客 3529

MacOS中的Kafka安装启动

打开终端执行下列命令 安装:brew install kafka 1、sudo zkServer start ----启动zookeeper 2、启动kafka 2.1 cd /usr/local/Cellar/kafka/ ---kafka安装目录 2.2 ls ----查看kafka版本 我安装的是2.3.0 2.3...

qq_29428909的博客 1228

(一)kafka安装及操作命令

(一)kafka安装及操作命令 1.安装 kafka可以通过官网下载 https://kafka.apache.org/downloads kafka根据Scala版本不同,又分为多个版本,我不需要使用Scala,所以就下载官方推荐版本kafka_2.12-2.4.0.tgz。 下载好后在自己的服务器上进行解压即可,这里就不演示了 2.Zookeeper配置 当前下载的kafka程序里自带Zookeeper,可以直接使用其自带的Zookeeper建立集群,也可以单独使用Zookeeper安装文件建立集群。

qq_34136709的博客 320

kafka安装及配置

1、下载地址 Apache Download Mirrors 下载命令:wgethttp://mirrors.tuna.tsinghua.edu.cn/apache/kafka/2.4.0/kafka_2.13-2.4.0.tgz 2、解压 解压命令:tar –zxvf kafka_2.13-2.4.0.tgz 移动: cp -R kafka_2.13-2.4.0 /zjl/program/ 创建软链接: ln -s kafka_2.13-2.4.0/ /zjl/program/kafka...

weixin_61459876的博客 7945
上一篇: sqoop读取postgresql数据库表格导入到hdfs中
下一篇:  创建新对象内存分析 
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值