这就是你找的kafka-manager

AI权益加码!Claude Code、Cursor等20+工具免费用! 购周边限时加赠Coding Plan Lite,畅享主流AI工具!学习进阶更高效! 阅读详情

        Kafka作为分布式消息系统,以其轻量级、可扩展、高通吐等特点受到许多程序员青睐,我最近在项目中也用到了Kafka作为中间件进行数据交互。用几天了一直没时间对其进行监控和运行管理。今天抽空学习了一下,网上提供的方案主要是以下四种:

                Kafka Web Console

                KafkaOffsetMonitor

                Kafka Manager

                LogiKM(Logi-KafkaManager)

        由于时间有限,以上四种方法我暂时试用了 kafka-manager 和 LogiKM两种,因为前者是大家都较为推荐的,后者在知乎上,csdn上看到好几次有人推荐,就做个尝试。

        kafka-manager (现用名CMAK)由雅虎于2015年1月开始开源的kafka集群管理工具,据说由于误用了apache的商标,被迫改名的。 Github地址:yahoo/CMAK: CMAK is a tool for managing Apache Kafka clusters (github.com)

        LogiKM 由滴滴出行于2020年5月开始部分开源的kafka集群管理工具,其开源版包含了大部分集群管理运维相关功能。Github地址:didi/LogiKM: 一站式Apache Kafka集群指标监控与运维管控平台 (github.com)

对比两者在github上的信息

        CMAK应该是比较成熟的完整的运维监控工具,经过这么多年的积累,star数已经达到了10.3k,关注量还是比较大的,但是从2020年开始几乎没有代码提交,issues很多处于open状态较长时间,活跃度相对不高。个人试用体验还不错,一上来各功能都是跟着感觉操作就完事了,快速上手也不难。

        LogiKM,虽然开源时间不长,但是star数也已经达到了2.9k,有一定的用户基础,活跃度相对较高,照这个趋势,即便现在开源功能不够完善一定也会越来越好,说不定渐渐成为主流也未可知。一上来感觉界面风格确实好看,功能也全,不过过程中有一点不是很喜欢,有很多感觉就像闭源的功能菜单,一看见都是想收费的就上头,所以整体上来说还不喜欢。

        Kafka web console 有很多人说,该工具存在和Kafka生产者、消费者、ZooKeeper建立大量连接,从而导致网络阻塞的现象,生产环境下慎用。具体现在是否还存在暂且不论,看界面功能还挺全,后面会尝试研究。

        KafkaOffsetMonitor 该工具是以jar包形式运行的项目,部署简单,使用方便,不过只有监控功能,如果只需要监控功能,推荐使用。

下面介绍一下CMAK和LogiKM的部署及试用体验。

CMAK

1,下载:只是使用的话直接下载编译好的二进制文件即可,使用源码自行编译的方法这里不做说明。

        直接从github下载,地址:Release 3.0.0.5 · yahoo/CMAK (github.com);但是如果个人没有加速下载的方式,下载就太慢了,可以从下面的地址下载,速度还不错,推荐!地址:CMAK(kafka manager)安装包下载 | Wolfogre's Blog

2,解压到你的安装目录

        unzip cmak-3.0.0.4.zip

        无法使用unzip可以参考 linux解压zip文件,_babyLetsGo的博客-CSDN博客 解决

3,修改配置文件,conf目录中打开 application.conf文件,两个zkhosts改成自己的地址。

4,启动命令

        切换到解压后目录,bin/cmak 即可启动。

5,java环境必须是jdk11,版本太低会报错如下:

        java.lang.UnsupportedClassVersionError: controllers/routes has been compiled by a more recent version of the Java Runtime (class file version 55.0), this version of the Java Runtime only recognizes class file versions up to 52.0

解决方法:

        下载安装openjdk11,可以直接从官方网站下载,操作稍显麻烦,且下载速度很慢,这里提供华为镜像服务提供站地址,从此出下载方便快捷。

华为开源镜像站下载地址:https://repo.huaweicloud.com/openjdk/11.0.2/openjdk-11.0.2_linux-x64_bin.tar.gz

6,指定java环境启动cmak

        bin/cmak  -java-home /usr/local/jdk-11.0.2

测试没问题后后续可以使用后台启动方式。

        nohup bin/cmak  -java-home /usr/local/jdk-11.0.2 &

7,默认访问端口是9000,启动成功后即可通过 IP:9000地址访问(小提示:云服务器需要安全组策略开放端口,否则访问会被拦截)。

开始使用要添加集群,然后就可以对集群进行管理了。

LogiKM

快速体验地址:http://117.51.150.133:8080 账号密码 admin/admin

1. 下载,直接从github下载就行,这个还好,不算太慢。

https://github.com/didi/LogiKM/releases/download/v2.4.2/kafka-manager-2.4.2.tar.gz

2. 解压。

tar -zxvf kafka-manager-2.4.2.tar.gz

3. Mysql初始化,切换到挤压后的目录,输入以下命令。

mysql -u root -p -h XXX.XXX.XXX.XXX -P XXXX < ./create_mysql_table.sql

说明:-h mysql服务主机ip,-P mysql服务端口。然后在输入密码就可以了

4. 修改配置

修改application.yml,主要修改mysql配置,默认访问端口为8080,如果使用中也可修改。

5. 启动

java -jar kafka-manager.jar --spring.config.location=./application.yml

测试没问题后后续可以使用后台启动方式。

nohup java -jar kafka-manager.jar --spring.config.location=./application.yml >/dev/null 2>&1 &

说明:>/dev/null 将标准输出重定向到无底洞,2>&1 将错误输出重定向到标准输出。

6. 访问http://服务IP:端口,输入帐号及密码(默认admin/admin)进行登录。

Kafka Manager支持jdk1.8的部署和使用 通过kafka-manager实现对kafka的集群管理,便于对集群管理、broker查看、topic查看等。该版本支持jdk1.8版本的使用,直接使用编译后的版本部署即可完成对kafka的使用 阅读详情

相关推荐

Kafka的灵魂伴侣LogiKM(1)之集群的接入及相关概念讲解

温馨提示: 如有排版问题可访问 : Kafka的灵魂伴侣LogiKM(1)之集群的接入及相关概念讲解 前言 今天新开了专栏 :【Kafka的灵魂伴侣LogiKM】 前言 正文 接入集群 基本信息展示 创建Region和逻辑集群 创建一个普通用户 普通用户申请应用 普通用户申请Topic 运维人员审核Topic 文章列表 在阅读此文前,您可以先按照文档 Logi-KafkaManager...

kafka_zsxq的博客 1624

【大数据工具】Kafka伪分布式、分布式安装和Kafka-manager工具安装与使用

管理多个 Kafka 集群便捷的检查 Kafka 集群状态(topic,broker,备份分布情况,分区分布情况)选择要运行的副本基于当前分区状况进行可以选择 topic 配置并创建 topic(0.8.1.1 和 0.8.2 的配置不同)删除 topic(只支持 0.8.2 以上的版本并且要在 broker 配置中设置Topic list 会指明哪些 topic 被删除(0.8.2 以上版本使用)为已存在的 topic 增加分区为已存在的 topic 更新配置。

程序员五哥 3581

Kafka三种可视化监控管理工具monitor,manager,eagle

1.Kafka Monitor 下载链接: https://github.com/Morningstar/kafka-offset-monitor/releases/tag/0.4.6 上传jar包KafkaOffsetMonitor-assembly-0.4.6-SNAPSHOT.jar到集群 在/opt/module/下创建kafka-offset-console文件夹 将上传的jar包放入刚创建的目录下 在/opt/module/kafka-offset-console目录下创建启

陈小哥cw 2万+

kafka集群管理工具kafka-manager

一、kafka-manager简介 kafka-manager是目前最受欢迎的kafka集群管理工具,最早由雅虎开源,用户可以在Web界面执行一些简单的集群管理操作。具体支持以下内容: 管理多个集群 轻松检查群集状态(主题,消费者,偏移,代理,副本分发,分区分发) 运行首选副本选举 使用选项生成分区分配以选择要使用的代理 运行分区重新分配(基于生成的分配) 使用可选主题配置创建主题(0.8.1.1具有与0.8.2+不同的配置) 删除主题(仅支持0.8.2+并记住在代理配​​置中设置dele.

yizhiniu_xuyw的专栏 1万+

Kafka可视化管理工具kafka-manager部署安装和使用

Kafka可视化管理工具kafka-manager部署安装和使用

qq_36306519的博客 2万+

Kafka Manager

1.kafka Manager 1.上传压缩包kafka-manager-1.3.3.15.zip到集群 2.解压到/opt/module 3.修改配置文件conf/application.conf kafka-manager.zkhosts="kafka-manager-zookeeper:2181" 修改为: kafka-manager.zkhosts=...

weixin_30652879的博客 237

kafka manager的使用,kafka manager页面参数说明

kafka-managerkafka集群管理工具,由雅虎开源,用户可以在Web界面执行一些简单的集群管理操作。具体支持以下内容(从githup上kafka-manager项目的readme得到功能列表):  - Manage multiple clusters  - Easy inspection of cluster state (topics, consumers, offsets, br...

每个人都是一道菜。。。 2万+

如何用 Kafka Manager 实现 Kafka 集群全面监控

Apache Kafka 是现代大数据架构中不可或缺的组件,广泛用于日志收集、流处理、消息队列等场景。随着 Kafka 集群规模的增长和业务复杂度的提升,**对 Kafka 的实时监控变得尤为重要**。

九天的专栏 947

Kafka-Manager安装及操作

Kafka manager是一款常用的Kafkakafka管理、操作和监控的工具,本文覆盖Kafka-manager的介绍、安装部署和操作等内容.

Aidon博客 9073

Kafka监控KafkaOffsetMonitor和Kafka Manager

一. KafkaOffsetMonitor KafkaOffsetMonitor是Kafka的可视化管理与监控工具,可以为Kafka的稳定运维提供高效、可靠、稳定的保障。且程序以jar包的方式运行,部署较为方便。 官网下载jar包(https://github.com/quantifind/KafkaOffsetMonitor) 打开虚拟机并在/usr/local/cluster下创建kafka...

weixin_45568872的博客 983

kafkakafka-manager的安装

备注:默认你安装了zk集群 kafka的安装 下载上传解压 1.下载 https://www.apache.org/dyn/closer.cgi?path=/kafka/1.0.0/kafka_2.11-1.0.0.tgz 2.上传到master机器的~/bigdata/下 3.解压: tar -xzf kafka_2.11-1.0.0.tgz 在master上修改配置 1.cd ~/bigdat...

没有合适的昵称 2340

kafka-manager安装

为了能更好的监控kafka集群,kafka-manager是一个很好的选择! 一、下载源码 使用Git或者直接从Releases中下载,这里我们下载 1.3.3.18 版本:https://github.com/yahoo/kafka-manager/releases 二、解压 wget https://github.com/yahoo/kaf...

bigdata_player 1836

用docker搭建有kafka-managerkafka集群

前面搭建过单节点zookeeper的kafka集群,但是操作起来很不方便,因此这次试着搭建一个带有管理界面kafka-managerkafka集群. 1、创建docker-compose的yml文件 创建kafka文件夹,并在目录下编写docker-compose-zoosingle-manage-kafka.yml文件 version: '3' services: zookeeper: ...

sinat_39393179的博客 2740

Kafka Manager部署及使用

配置Java环境变量 [root@node00 profile.d]# pwd /etc/profile.d [root@node00 profile.d]# cat java.sh export JAVA_HOME=/usr/java/default export PATH=$PATH:$JAVA_HOME/bin 执行如下命令使环境变量生效并查看java版本 [root@node00 ...

storm_fury 2499

kafka系列教程42】Kafka Manager

作为一个分布式的消息发布-订阅系统,Apache Kafka在 Yahoo内部已经被很多团队所使用,例如媒体分析团队就将其应用到了实时分析流水线中,同时,Yahoo整个Kafka集群处理的峰值带宽超过了 20Gbps(压缩数据)。为了让开发者和服务工程师能够更加简单地维护Kafka集群,Yahoo构建了一个基于Web的管理工具,称为Kafka Manager,日前该项目已经在GitHub上开源。 ...

dcm19920115的博客 1710

kafka-manager 编译安装

kafka-manager 安装 由于 kafka 管控台是 Scala 语言编写的,需要下载支持构建 Scala 工程的工具 sbt sbt 安装 curl https://bintray.com/sbt/rpm/rpm 下载安装包 mv bintray-sbt-rpm.repo /etc/yum.repos.d/ 移动到 yum.repos.d 目录下(需要管理员权限) yum ins...

勤奋的执行一五规划 1165

Kafka集群管理工具kafka-manager的安装使用

一.kafka-manager简介 kafka-manager是目前最受欢迎的kafka集群管理工具,最早由雅虎开源,用户可以在Web界面执行一些简单的集群管理操作。具体支持以下内容: 管理多个集群 轻松检查群集状态(主题,消费者,偏移,代理,副本分发,分区分发) 运行首选副本选举 使用选项生成分区分配以选择要使用的代理 运行分区重新分配(基于生成的分配) 使用可选主题配置创建主题(0.8.1.1具有与0.8.2+不同的配置) 删除主题(仅支持0.8.2+并记住在代理配​​置中设置d..

baidu_35692846的博客 4020

kafka manager 安装

转自:https://my.oschina.net/pengli/blog/710522 雅虎官方github项目:https://github.com/yahoo/kafka-manager 这里提供编译好了的包,下载后可以直接使用,可以不用去sbt编译。 链接:http://pan.baidu.com/s/1bQ3lkM 密码:c251 1、将下载后的包上传到linux目录下解压 ...

lhoneyun的博客 528
上一篇: mysql连接器版本从5.x升级到8.x的问题记录
babyLetsGo
博客等级 码龄8年 170粉丝 23原创
评论 5
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值