canal-server的安装部署

AI权益加码!Claude Code、Cursor等20+工具免费用! 购周边限时加赠Coding Plan Lite,畅享主流AI工具!学习进阶更高效! 阅读详情

概述

canal是阿里巴巴旗下的一款开源项目,纯Java开发。基于数据库增量日志解析,提供增量数据订阅&消费,目前主要支持了MySQL(也支持mariaDB)。

部署

  • jdk

canal属于纯java开发,所以要先安装java环境,参照网上教程,注意配置环境变量

  • mysql

第一步: 编辑mysql配置文件 $ sudo vim /etc/my.cnf

log-bin=mysql-bin     #binlog文件名
binlog_format=row     #选择row模式
server_id=1           #mysql实例id,不能和canal的slaveId重复

 保存并退出,重启mysql实例

:wq

service mysqld restart

 

第二步: 创建mysql账号密码(账号密码自定,权限自定)

CREATE USER canal IDENTIFIED BY 'canal';    
GRANT SELECT, REPLICATION SLAVE, REPLICATION CLIENT ON *.* TO 'canal'@'%';  
FLUSH PRIVILEGES;
  • canal-server

canal server 标准化集群搭建(一) 安装 maven 包(自动安装到 target 目录下,zkui-2.0-SNAPSHOT-jar-with-dependencies.jar 会被安装)# 第50行修改为instance name,要与上级目录名、canal.properties 中的 intance name 一致。# 修改 instance 配置文件——非必须,可以不修改,因为配置 canal admin 后,该信息是从 admin 获取的。# 访问 canal admin,默认密码:admin/123456。 阅读详情

相关推荐

canal admin+canal server安装部署教程(内附kafka推送demo)

canal-admin+canal-server安装部署教程(内附kafka推送demo) 文章目录canal-admin+canal-server安装部署教程(内附kafka推送demo)1.前置条件2.mysql环境准备3.相关套件准备4.canal-admin安装部署5.canal-server安装部署6.instance配置7.测试8.总结 1.前置条件 软件 1.jdk_1.8.0_131 2.mysql_5.7.24 3.zookeeper_3.4.14 4.kafka_2.11-2.2.2 集

weixin_43900244的博客 4632

canal-server使用

canal-server一直无法启动, 查看日志显示 admin:auth error原因: canal-server配置的参数, 账号密码使用错误(使用了canal-admin ui的登录账号和密码)部署的admin当天登录正常, 隔天登录后台就显示 network error原因: 使用启动canal-admin, 其限定了容器的内存为1G(参数 -m 1024), 因此服务启动后内存过大导致服务自动关闭.

ss810540895的博客 4357

docker部署canal-server

开启 binlog 日志并设置为 ROW 模式,在 MySQL 配置文件(如。若需监控多个数据库实例,可通过挂载多个。配置后需重启 MySQL。

江宁山人的专栏 1294

canal server 标准化集群搭建(完结)

第33行修改为源数据库抽数用户,权限为 replication client、replication slave、指定库的 select 权限。# 第50行修改为instance name,要与上级目录名、canal.properties 中的 intance name 一致。# 第15行取消注释,修改 admin server 地址。# 第41行修改为要抽取的数据库(白名单)# 第34行修改为源数据库抽数用户的密码。,加载配置模板内容,修改内容类似。# 第9行修改源数据库地址:端口。

2301_76957510的博客 2496

canal server HA安装部署

一 介绍 canal-server架构 说明 CanalServer端本身根据配置启动了很多个Instance对象,所谓的Instance对象就是模拟的数据库slave和master进行连接,换句话说就是假设canal同时成为N个数据库的slave,那么就会有N个Instance实例。 每个Instance内部包含5个组件(图中只包含了4个,估计另外一个没有实现的原因),分别是eventParser、eventSink、eventStore、metaManager、ala...

雅冰石的专栏 688

Canal系列:Canal Server安装部署

Canal系列:Canal Server安装部署

a498420237的博客 1482

canal-server安装部署

基于日志增量订阅和消费的业务包括: 数据库镜像 数据库实时备份 索引构建和实时维护(拆分异构索引、倒排索引等) 业务 cache 刷新 带业务逻辑的增量数据处理 当前的 canal 支持源端 MySQL 版本包括 5.1.x , 5.5.x , 5.6.x , 5.7.x , 8.0.x 一 实验环境 二 实验步骤 2.1 配置源端MariaDB 2.1.1 修改配置文件 my.cnf 中配置如下: [mysqld] log-bin=mysql-bin binlog...

雅冰石的专栏 1841

macOS、Linux CentOS 、Docker安装部署canal-server(canal-deployer)服务

canal-server(canal-deployer)依赖jdk,需要先安装部署好jdk1.8mysql开启binlog。

峰子哥哥的博客 1942

mysql数据实时同步:Canal安装部署、kafka安装、zk安装、mysql安装Canal Server+Canal Client HA,Canal+mysql+Kafka,相关验证(学习笔记)

目录 Canal安装部署 1.1. 服务器准备 1.2. 设置主机名并配置hosts 1.3. 免密设置 1.4. 设置ntp时间 1.5. 关闭防火墙 1.6. 关闭selinux 1.7. 安装JDK 1.8. 安装zookeeper 1.9. 安装scala 安装Kafka 2.1. 解压 2.2. 配置环境变量 2.3. 修改配置文件 2.4. 再次修改server.properties 2.5. 创建日志目录 2.6. Kafka集群启动与测试 2.7. topi

涂作权的博客 4429

Canal-Admin安装部署 及 HA部署

架构: canal-admin header1 canal-server(HA) header1 和 header2 安装canal-admin https://github.com/alibaba/canal/releases/tag/canal-1.1.4 解压缩 tar -zxvf canal.admin-1.1.4.tar.gz -C /opt/apps/ecm/service/canal-admin/ 修改配置文件 conf/application.yml

zZsSzss的博客 1243

docker canal-server canal-adapter mysql

本文将介绍使用docker安装并配置canal-servercanal-adapter。将MySQL的数据同步到MySQL。 本教程中的canal-mode为tcp,若换成其他如kafka、rocketMQ,大同小异 1.canal介绍 canal的工作原理就是把自己伪装成MySQL slave,模拟MySQL slave的交互协议向MySQL Mater发送 dump协议,MySQL mater收到canal发送过来的dump请求,开始推送binary log给canal,然后canal解析binary

非常暴躁的程序猿博客 3398

安装canal 高可用集群

背景 研发伙伴的需求,需要监控mysql增量数据,想通过canal-client发送到java flink上。 canal是什么: canal [kə’næl],译意为水道/管道/沟渠,主要用途是基于 MySQL 数据库增量日志解析,提供增量数据订阅和消费。 参考文档: https://github.com/alibaba/canal/ canal 工作原理 canal 模拟 MySQL slave 的交互协议,伪装自己为 MySQL slave ,向 MySQL master 发送dump 协议 MySQ

weixin_37767104的博客 2300

canal-client的安装部署

概述 canal client将从canal server获取的binlog数据以json格式发送到各种MQ中(rabbitmq,redis,kafka)。 部署 第一步:下载解压项目,使用的是与canal-server 1.0.22版本对应的client(canal-client-1.0.22.tar.gz): 项目git地址:https://github.com/BooksCup/ca...

Python_5S的专栏 2717

canal-admin单机模式部署安装

canal-admin单机模式部署安装 一、安装canal-admin 解压安装 mkdir /opt/soft/canal-admin115 tar -zxvf canal.admin-1.1.5-SNAPSHOT.tar.gz -C /opt/soft/canal-admin115/ 修改配置文件application.yml vi conf/application.yml,修改address为本地源数据库,并修改相关用户和密码 server: port: 8089 spring:

weixin_42487460的博客 1686

基于docker部署canal+es集群

0.整体架构 1. 安装docker 就需要几行命令,参考菜鸟教程 2. 创建本次demo需要的网络环境 docker network create --subnet=172.18.0.0/16 canal-demo 3. mysql镜像和配置 pull镜像并且运行 docker run -d --name mysql --net canal-demo --ip 172.18.0.2 -p 3...

jerryq的博客 2269

linux系统下安装并配置canal

canal官网下载地址:https://github.com/alibaba/canal 下载canal的压缩包 :canal下载 自己选择一个版本下载(ps:选择deployer的版本) 首先连接到linux,切换至root用户 使用canal要先开启mysql的Binlog写入功能,配置 binlog-format 为ROW模式,故须使用如下命令修改mysql的my.cnf中配置 vi /etc/my.cnf 在my.cnf配置中加入以下配置 log-bin=mysql-...

7108

Canal部署

安装MySQL [hadoop@hadoop003 canal-admin]$ sudo yum -y localinstall https://dev.mysql.com/get/mysql80-community-release-el7-3.noarch.rpm [hadoop@hadoop003 canal-admin]$ sudo yum -y install mysql-commu...

AaronLwx的博客 833

docker安装canal入门实战,同步mysql数据到elasticsearch

canal 1.1.1版本之后, 增加客户端数据落地的适配及启动功能, 目前支持功能:客户端启动器同步管理REST接口日志适配器, 作为DEMO关系型数据库的数据同步(表对表同步), ETL功能HBase的数据同步(表对表同步), ETL功能(后续支持) ElasticSearch多表数据同步,ETL功能。本文主要介绍如何使用canal同步mysql数据到elasticsearch中

三万少女的梦中刺客的博客 2476

使用helm安装canal-servercanal-admin

1.前置条件: 需要电脑有helm kubectl 如果没有的话需要安装环境2.需要拉取canal-servercanal-admin镜像 拉取镜像的时候可能存在拉取不下来的情况,需要配置: /etc/docker/daemon.json登录后复制 { "registry-mirrors": [ ...

cnzzs的博客 814
下一篇: canal-client的安装部署
Python_5S
博客等级 码龄12年 1粉丝 5原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值