kafka_2.11 安装配置 (详细图文)

AI权益加码!Claude Code、Cursor等20+工具免费用! 购周边限时加赠Coding Plan Lite,畅享主流AI工具!学习进阶更高效! 阅读详情

准备工作

先从官网上下载好该版本的安装包,并上传到集群中任意一台主机(我上传到了master上)
这里写图片描述

1 安装配置

1.1 解压

我是放到 /usr/hadoop 目录下的,解压之后会多出来一个 kafka_2.11-0.10.1.0 的目录
这里写图片描述

1.2 配置环境变量

在 /etc/profile 中添加如下配置
这里写图片描述

使环境变量生效

[root@master hadoop]# source /etc/profile
[root@master hadoop]#
1.3 发送到集群中其他节点

这时候把我们的 /etc/profile 发送到 slave1、slave2 节点上:

[root@master hadoop]# scp /etc/profile root@slave1:/etc/
...
[root@master hadoop]# scp /etc/profile root@slave2:/etc/
...

发送 kafka 整个文件夹到 slave1、slave2 节点上:

[root@master hadoop]# scp -r kafka_2.11-0.10.1.0 root@slave1:/usr/hadoop
...
[root@master hadoop]# scp -r kafka_2.11-0.10.1.0 root@slave2:/usr/hadoop
...
1.4 配置 server.properties

其实单节点的 kafka 是不用修改这个文件的,直接仿照官网的介绍就可以了,但是我们搭建的是一个集群。这里的配置文件需要修改,有三四处吧。

1.4.1 打开监听端口
############################# Socket Server Settings #############################

# The address the socket server listens on. It will get the value returned from
# java.net.InetAddress.getCanonicalHostName() if not configured.
#   FORMAT:
#     listeners = security_protocol://host_name:port
#   EXAMPLE:
#     listeners = PLAINTEXT://your.host.name:9092
listeners=PLAINTEXT://:9092     # 取消这一行的注释
1.4.2 修改 zookeeper.connect
############################# Zookeeper #############################

# Zookeeper connection string (see zookeeper docs for details).
# This is a comma separated host:port pairs, each corresponding to a zk
# server. e.g. "127.0.0.1:3000,127.0.0.1:3001,127.0.0.1:3002".
# You can also append an optional chroot string to the urls to specify the
# root directory for all kafka znodes.
zookeeper.connect=master:2181,slave1:2181,slave2:2181   # 修改成为我们搭建的zookeeper集群

# Timeout in ms for connecting to zookeeper
zookeeper.connection.timeout.ms=6000
1.4.3
Kafka 安装配置 本节详细介绍 Kafka 运行环境的搭建,为了节省篇幅,本节的内容以 Linux CentOS 作为安装演示的操作系统,其他 Linux 系列的操作系统也可以参考本节的内容。具体的操作系统的信息如下: [root@node1 ~]# uname -a Linux node1 2.6.32-504.23.4.el6.x86_64 #1 SMP Tue Jun 9 20:57:37 UTC 2015 x86_64 x86_64 x86_64 GNU/Linux [root@node1 ~]# cat /et 阅读详情

相关推荐

Windows 11系统下Kafka详细安装与启动指南(JDK 1.8)

Kafka是一个功能强大的分布式流处理平台

weixin_51040479的博客 1868

kafka_2.11-0.10.1.0.tgz

kafka_2.11-0.10.1.0.tgzKafka是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者规模的网站中的所有动作流数据。 这种动作(网页浏览,搜索和其他用户的行动)是在现代网络上的许多社会功能的一个关键因素。 这些数据通常是由于吞吐量的要求而通过处理日志和日志聚合来解决。 对于像Hadoop的一样的日志数据和离线分析系统,但又要求实时处理的限制,这是一个可行的解决方案。Kafka的目的是通过Hadoop的并行加载机制来统一线上和离线的消息处理,也是为了通过集群来提供实时的消费。

Kafka 在 Linux 下的集群配置安装

本文详细介绍了在 Linux 环境中配置安装 Kafka 集群的过程,包括每个配置项的说明和常见故障的排查方法。通过这些步骤,您可以轻松地构建一个可靠的 Kafka 集群,支持大规模数据流处理和实时数据传输。希望这篇文章能够帮助您顺利搭建和管理 Kafka 集群

J老熊 2154

kafka_2.11-0.10.1.1.tgz

kafka_2.11-0.10.1.1.tgz

kafka_2.11-0.10.1.0 单机安装(使用kafka集成zookeeper)

解压安装包到/data目录,并修改权限,并配置环境变量 修改config/zookeeper.properties文件dataDir=/data/zookeeper_data clientPort=2181 修改config/server.properties文件broker.id=0 delete.topic.enable=true listeners=PLAINTEXT://0.0.0.0:90

我的博客 4784

Kafka 0.10.1.0 集群的搭建以及启动

kafka cluster机器: 机器名称 hadoop01001 hadoop01002 hadoop01003 【安装目录】: /home/hadoop/app 1.将scala同步到集群其他机器(scala 2.11版本) [hadoop@hadoop software]$ scp scala-2.11.8.tgz hadoop01001:/home/hadoop/software [h...

moyuan的博客 1096

kafka_2.11-2.4.1单机安装

在本指南中,我们将手把手教你如何在单机环境中部署 Kafka 2.4.1,从下载、安装配置及优化,涵盖每一个关键步骤。无论你是初次接触 Kafka 还是希望深入了解其配置细节,本指南都将为你提供必要的帮助。我们将介绍如何创建目录、解压安装包、修改配置文件以适应特定需求,并详细解释启动和停止 Kafka 的过程。还包括内存优化、调整线程数和网络配置等高级设置,确保 Kafka 在你的系统上运行得更加高效稳定。让我们一起探索 Kafka 的强大功能,提升你的消息处理能力!

Java领域优秀创作者 1658

Kafka-2.11配置 入门级教程

前提:kafka基于zookeeper配置解压安装

分享编程知识与技巧 致力于技术交流与学习 找我合作私聊 有偿解决计算机问题 1526

kafka_2.11-0.8.2.2.tgz的3节点集群的下载、安装配置图文详解)

         kafka_2.10-0.8.1.1.tgz的1或3节点集群的下载、安装配置图文详细教程)绝对干货       一、安装前准备  1.1 示例机器           二、 JDK7 安装 1.1 下载地址  下载地址: http://www.oracle.com/technetwork/java/javase/downloads/jdk7-...

weixin_34335458的博客 612

Kafka】Windows下安装Kafka图文记录详细步骤)

()Kafka是由Apache软件基金会开发的一个开源流处理平台,由Scala和Java编写。Kafka是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者在网站中的所有动作流数据。 ()Kafka 本质上是⼀个消息队列。与zeromq不同的是,Kafka是一个独立的框架而不是一个库。通过O(1)的磁盘数据结构提供消息的持久化,这种结构对于即使数以TB的消息存储也能够保持长时间的稳定性能。高吞吐量 :即使是非常普通的硬件Kafka也可以支持每秒数百万的消息。

tttzzzqqq2018的博客 7万+

kafka_2.11-2.1.1 脚本快速安装

kafka_2.11-2.1.1 zookeeper-3.4.13.tar.gz zoo.cfg

kafka_2.11-0.10.0.0.tgz

百度网盘里面是 kafka_2.11-0.10.0.0.tgz

Kafka安装配置

1.下载Kafka2.13-3.1.0 最新版为kafka_2.13-3.1.0.tgz 下载Zookeper 最新版为zookeeper-3.8.0 2.单机安装zookeper Kafka依赖于zookeeper,官方承诺将来会移除. 解压文件: tar zxvf apache-zookeeper-3.8.0-bin.tar.gz -C /opt/ mv /opt/apache-zookeeper-3.8.0-bin/ /opt/zookeeper 在/opt/zookeepe....

上善若水 厚德载物 1万+

kafka安装配置(详细,傻瓜式安装)

数据存放位置,每个节点一个如/kafka-logs-1,/kafka-logs-2,/kafka-logs-3等,不同节点使用文件不可重复,如果重复了容易启动失败。在每个节点启动Kafka,创建topic,其中toipic名称为installtopic,分区数为2,副本数为2。修改bigdata2和bigdata3中的zookeeper下的data中myid的值分别改为3和4。#对外的ip及端口,端口号每个文件不要用同一个,我使用的分别是9091,9092,9093。配置kafka的环境变量。

2301_77578187的博客 6529

kafka-eagle详细安装配置图文教程

以下的安装过程结合了两台服务器,所以截图有些混乱(补充说明)但是整体流程框架是无误的。

码农研究僧的博客 1549

Kafka安装配置(zookeeper+kafka)

kafka是最初由Linkedin公司开发,是一个分布式、支持分区的(partition)、多副本的(replica),基于zookeeper协调的分布式消息系统,它的最大的特性就是可以实时的处理大量数据以满足各种需求场景:比如基于hadoop的批处理系统、低延迟的实时系统、storm/Spark流式处理引擎,web/nginx日志、访问日志,消息服务等等,用scala语言编写,Linkedin于2010年贡献给了Apache基金会并成为顶级开源 项目。

weixin_62687791的博客 4824

Linux安装 kafka 详细步骤

Linux安装 kafka 详细步骤一、安装JDK环境1.1、下载jdk1.2、上传jdk到linux1.3、解压jdk1.4、配置环境变量1.5、测试jdk安装是否成功二、安装Zookeper2.1、下载安装2.2、创建安装目录2.3、修改配置2.4、创建节点的myid:2.5、启动ZooKeeper三、安装Kafka3.1、下载kafka3.2、创建工作目录&启动3.3、开启远程链接3.4、创建和查看topic 一、安装JDK环境 1.1、下载jdk jdk下载链接: http://www.j

qq_45887180的博客 5833
上一篇: Sqoop-1.99.7 简单使用
下一篇: kafka_2.11 简单使用
M_SIGNALs
博客等级 码龄10年 45粉丝 21原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值