clickhouse集群部署说明

学习提速专享!AI工具全家桶免费用 限时购周边加赠Coding Plan Lite,解锁20+主流AI工具,写代码、查资料快人一步! 阅读详情

clickhouse集群部署说明(5分片,分片内1副本

集群架构:

分片1:机器hiido-clickhouse-01的9000端口

分片2:机器hiido-clickhouse-02的9000端口

分片3:机器hiido-clickhouse-03的9000端口

分片4:机器hiido-clickhouse-04的9000端口

分片5:机器hiido-clickhouse-05的9000端口

 

1.部署机器列表,使用了5台物理机器

分别给每台机器配置hostname,并为每台服务器添加域名

root@ubuntu:~# hostnamectl set-hostname hiido-clickhouse-01

10.12.17.12 hiido-clickhouse-01.hiido.host.yydevops.com
10.12.14.88 hiido-clickhouse-02.hiido.host.yydevops.com
10.12.14.89 hiido-clickhouse-03.hiido.host.yydevops.com
10.12.14.155 hiido-clickhouse-04.hiido.host.yydevops.com
10.12.14.156 hiido-clickhouse-05.hiido.host.yydevops.com

 

2.部署zookeeper集群

在zookeeper官网下载安装包apache-zookeeper-3.6.2-bin.tar.gz

https://mirrors.tuna.tsinghua.edu.cn/apache/zookeeper/zookeeper-3.6.2/apache-zookeeper-3.6.2-bin.tar.gz

上传压缩包到目录/root,解压到目录/usr/local/apache-zookeeper-3.6.2-bin,并建立软链接/usr/local/zookeeper

root@hiido-clickhouse-01:~# tar -zxf apache-zookeeper-3.6.2-bin.tar.gz

root@hiido-clickhouse-01:~# mv apache-zookeeper-3.6.2-bin /usr/local/

root@hiido-clickhouse-01:~# ln -s /usr/local/apache-zookeeper-3.6.2-bin /usr/local/zookeeper

root@hiido-clickhouse-01:~# cp /usr/local/zookeeper/conf/zoo_sample.cfg /usr/local/zookeeper/conf/zoo.cfg

root@hiido-clickhouse-01:~# vim /usr/local/zookeeper/conf/zoo.cfg

/usr/local/zookeeper/conf/zoo.cfg

...

dataDir=/data/zookeeper

dataLogDir=/data/logs/zookeeper

...

autopurge.purgeInterval=0

globalOutstandingLimit=200

server.1=hiido-clickhouse-01.hiido.host.yydevops.com:2888:3888

server.2=hiido-clickhouse-02.hiido.host.yydevops.com:2888:3888

server.3=hiido-clickhouse-03.hiido.host.yydevops.com:2888:3888

设置myid

hiidoagent@hiido-clickhouse01:/data# vim /data/zookeeper/myid  #hiido-clickhouse-01为1,hiido-clickhouse-02为2,hiido-clickhouse-03为3

启动zookeeper服务,并查看zookeeper服务状态

hiidoagent@hiido-clickhouse-01:/usr/local/zookeeper$ bin/zkServer.sh start

hiidoagent@hiido-clickhouse-01:/usr/local/zookeeper$ bin/zkServer.sh status

使用客户端连接测试

hiidoagent@hiido-clickhouse-01:/usr/local/zookeeper# /usr/local/zookeeper/bin/zkCli.sh -timeout 5000 -server hiido-clickhouse-01.hiido.host.yydevops.com:2181

说明:这里使用了zookeeper的默认端口:2181,后面配clickhouse集群的时候需要使用到该端口

 

3.到clickhouse官网下载clickhouse相应版本的安装包

https://repo.yandex.ru/clickhouse/deb/stable/main/

clickhouse-common-static_20.9.3.45_amd64.deb

clickhouse-server_20.9.3.45_all.deb

clickhouse-client_20.9.3.45_all.deb

 

4.安装clickhouse

root@hiido-clickhouse-01:~# dpkg -i clickhouse-common-static_20.9.3.45_amd64.deb

root@hiido-clickhouse-01:~# dpkg -i clickhouse-server_20.9.3.45_all.deb

root@hiido-clickhouse-01:~# dpkg -i clickhouse-client_20.9.3.45_all.deb

说明:安装clickhouse-server过程中设置了默认用户的密码是clickhouse,后面客户端连接需要使用到该密码,配置集群互访也需要使用到

 

--------------------------------------------------------------------------------------------------

查看已安装的deb软件包

root@hiido-clickhouse-01:~# dpkg -l

ii clickhouse-client 20.9.3.45 all Client binary for ClickHouse
ii clickhouse-common-static 20.9.3.45 amd64 Common files for ClickHouse
ii clickhouse-server 20.9.3.45 all Server binary for ClickHouse

--------------------------------------------------------------------------------------------------

如果要卸载clickhouse,可以执行删除deb软件包,连同配置文件一起删除

root@hiido-clickhouse-01:~# dpkg -r clickhouse-client

root@hiido-clickhouse-01:~# dpkg --purge clickhouse-client

root@hiido-clickhouse-01:~# dpkg -r clickhouse-server

root@hiido-clickhouse-01:~# dpkg --purge clickhouse-server

root@hiido-clickhouse-01:~# dpkg -r clickhouse-common-static

root@hiido-clickhouse-01:~# dpkg --purge clickhouse-common-static

root@hiido-clickhouse-01:~# rm -rf /etc/clickhouse-client

root@hiido-clickhouse-01:~# rm -rf /etc/clickhouse-server

 

5.修改clickhouse配置文件config.xml的日志文件路径、数据存储路径

root@hiido-clickhouse-01:/data1# mkdir -p clickhouse/log/clickhouse-server

root@hiido-clickhouse-01:/data1# chown clickhouse:clickhouse -R /data1/clickhouse/log

root@hiido-clickhouse-01:/data1# vim /etc/clickhouse-server/config.xml

/etc/clickhouse-server/config.xml

...

        <log>/data1/clickhouse/log/clickhouse-server/clickhouse-server.log</log>

        <errorlog>/data1/clickhouse/log/clickhouse-server/clickhouse-server.err.log</errorlog>

...

    <!-- Path to data directory, with trailing slash. -->

    <path>/data1/clickhouse/</path>

    <!-- Path to temporary data for processing hard queries. -->

    <tmp_path>/data1/clickhouse/tmp/</tmp_path>

    <!-- Directory with user provided files that are accessible by 'file' table function. -->

    <user_files_path>/data1/clickhouse/user_files/</user_files_path>

    <!-- Directory in <clickhouse-path> containing schema files for various input formats.

         The directory will be created if it doesn't exist.

      -->

    <format_schema_path>/data1/clickhouse/format_schemas/</format_schema_path>

说明:因为磁盘/data1空间最大,有19T

 

6.配置clickhouse集群

root@hiido-clickhouse-01:/data1# vim /etc/metrika.xml

/etc/metrika.xml

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

23

24

25

26

27

28

29

30

31

32

33

34

35

36

37

38

39

40

41

42

43

44

45

46

47

48

49

50

51

52

53

54

55

56

57

58

59

60

61

62

63

64

65

66

67

68

69

70

71

72

73

<yandex>

    <clickhouse_remote_servers>

        <perftest_5shards_1replicas><!-- 自定义集群名称 -->

            <shard>

                <internal_replication>true</internal_replication>

                <replica>

                    <host>hiido-clickhouse-01.hiido.host.yydevops.com</host>

                    <port>9000</port>

                </replica>

            </shard>

            <shard>

                <internal_replication>true</internal_replication>

                <replica>

                    <host>hiido-clickhouse-02.hiido.host.yydevops.com</host>

                    <port>9000</port>

                </replica>

            </shard>

            <shard>

                <internal_replication>true</internal_replication>

                <replica>

                    <host>hiido-clickhouse-03.hiido.host.yydevops.com</host>

                    <port>9000</port>

   &n

k8s上的clickhouse集群部署并创建分布式表(附详细参数说明和参考链接) - 阅读详情

相关推荐

ClickHouse使用介绍和部署指南

ClickHouse 是一种用于在线分析处理 (OLAP) 的高性能、面向列的 SQL 数据库管理系统 (DBMS)。它以其快速的查询性能和高效的数据压缩而闻名,并且能够处理 PB 级别的数据。1.

m0_58000616的博客 4838

ClickHouse集群配置及分布式简单使用

ClickHouse集群(Cluster) 在物理构成上,ClickHouse集群是由多个ClickHouse Server实例组成的分布式数据库。这些ClickHouse Server根据购买规格的不同而可能包含1个或多个副本(Replica)、1个或多个分片(Shard)。在逻辑构成上,一个ClickHouse集群可以包含多个数据库(Database)对象。

qq_27376155的博客 5399

Clickhouse keeper方式搭建集群_双机

🖊 1 对应node1 2对应node23对应node3。-- 指定实例启用 ClickHouse Keeper。-- 指定实例所使用的 ClickHouse Keeper 可以使用IP也可以使用域名,或者在hosts文件中配置域名 -->-- 指定实例所使用的 ClickHouse Keeper 可以使用IP也可以使用域名,或者在hosts文件中配置域名 -->

期待着的博客 1147

linux 安装clickhouse,可视化工具DBM连接clickhosuse

一、CentOS下安装单机版ClickHouse 1、安装依赖 yum install yum-utils 2、导入镜像源 rpm --import https://repo.clickhouse.tech/CLICKHOUSE-KEY.GPG yum-config-manager --add-repo https://repo.clickhouse.tech/rpm/clickhouse.repo 3、安装clickhouse的服务端和客户端 yum install -y cl..

那些乐趣的博客 2926

clickhouse系列之一-安装和使用

clickhouse支持多种安装方式,具体参考:参考链接 另:日常学习可选择docker 安装,有官方的镜像;以下具体说明安装步骤: 下载镜像 docker pull yandex/clickhouse-server 默认安装最新版:可指定具体tag: docker pull yandex/clickhouse-server:20.8.9.6 docker ps -a 启动容器 docker start 352e53ce4fc2 docker exec -it 352e

随梦而飞的专栏 555

【简记】rpm安装、卸载、查询

RPM RPM 是Red-Hat Package Manager(红帽软件包管理器)的缩写,这一文件格式名称虽然打上了RedHat的标志,但是其原始设计理念是开放式的,包括OpenLinux、S.u.S.E.以及Turbo Linux等Linux的分发版本都有采用,可以算是公认的行业标准了。 rpm包名介绍: clickhouse-client-20.9.3.45-2.noarch.rpm 名称 版本号 操作系统 clickhouse-client 20.9.3.45-2 noarch

dnice的博客 773

Clickhouse集群介绍

默认集群配置metrika.xml,可以通过config.xml修改 <?xml version="1.0"?> <yandex> <!-- /etc/clickhouse-server/config.xml 中配置的remote_servers的incl属性值,--> <clickhouse_remote_servers> <!-- 3分片1备份 --> <perftest_3shards_1repl

a13568hki的博客 1453

ClickHouse集群搭建教程

本文介绍了CKman的部署ClickHouse集群的搭建过程,包括准备环境、安装依赖、配置集群免密登录、部署CKman和ClickHouse等步骤。还介绍了如何使用Prometheus、Node Exporter监控工具以及Zookeeper等组件,并提供了MySQL和JDK的安装方法。最后,详细说明了在CKman中创建集群并进行监控配置的操作步骤。端口描述8808ckman管理平台端口2181zookeeper 客户端连接端口,用于客户端与Zookeeper集群进行通信的TCP/IP连接。

zcs2312852665的博客 5283

ClickHouse 集群部署及资源权限管控文档

文章目录一、ClickHouse集群部署1.1 版本说明1.2 服务器规划1.3 配置目录规划二、基础环境配置2.1 配置映射2.2 关闭防火墙&selinux2.3 配置互信2.4 创建用户2.5 安装jdk三、zookeeper部署3.1 解压安装包并配置环境变量3.2 创建数据/日志目录3.3 修改配置文件3.4 创建myid3.5 启动zk集群四、ClickHouse部署4.1 安装4.2 修改配置文件4.2.1 config.xml4.2.2 users.xml4.2.3 metrika.

雪辉博客 1567

Clickhouse集群部署

本文介绍了ClickHouse集群部署过程,主要包括:1)环境准备,配置Zookeeper和3个分片共6个节点的ClickHouse集群;2)使用Ansible自动化工具配置SSH免密登录并分发安装包;3)详细说明了每个节点的安装步骤,包括解压安装包、运行安装脚本和修改配置文件;4)集群启动后,创建分布式数据库birept和bi_event/bi_event_local表,并配置用户权限。整个过程涵盖了从环境准备到集群部署、表结构创建的全流程,为大数据分析平台提供了完整的ClickHouse部署方案。

qq_34478339的博客 1537

clickhouse集群部署保姆级教程

23.8及之后的版本。

weixin_53587261的博客 2156

大数据系列 | 详解基于Zookeeper或ClickHouse Keeper的ClickHouse集群部署--完结

   ● 数据存储方式:    MySQL是关系型数据库管理系统(RDBMS),它使用表格来组织数据,并支持SQL查询语言。    ClickHouse是列式数据库管理系统(Columnar DBMS),它以列为单位存储数据,这使得它在处理大量数据时非常高效。   ● 用途:    MySQL通常用于事务处理(OLTP)工作负载,比如Web应用程序的后端数据库,支持高并发的读写操作。    ClickHouse则更适合于分析型(OLAP)工作负载,用于大规模数据分析和报告,以及实时数据分析。  

背锅神童的博客 944

K8s 上helm部署clickhouse

这个可以帮助我们看部署得对不对。完整部署才可以使用。以上步骤走下来,一般是可以成功的,但如果没成功,有可能是helm部署时有些部署不完整,重新卸载之后再部署就可以。

m782186713的博客 2440

clickhouse集群部署以及分布式表引擎使用

ClickHouse服务为了副本和分布式DDL查询执行使用ClickHouse Keeper协调系统。

Y9976的博客 2296

擎创技术流 | ClickHouse管理工具—ckman教程(2)ClickHouse集群

上期我们讲到了ClickHouse的概念、特点以及初步引入了ClickHouse管理工具,这期我们来说一说ClickHouse集群的准备工作。

智能运维及数据中台探索 851

clickhouse集群版本部署文档

clickhouse是表级别的集群,一个clickhouse实例可以有分布式表,也可以有本地表。本文介绍4个节点的clickhouse情况下部署配置。分布式表数据分成2个分片,2个副本,总共4份数据:分片1,分片2组成一份完整的数据。这种配置可以在使用中4个节点共同处理一个sql查询,在一个节点宕机情况下保证数据不丢失,集群版本与单机版本区别在于节点间要相互,与单机版部署区别如下:以192.168.1.10,192.168.1.11,192.168.1.12,192.168.1.13四台集群模式为例配置实际

weixin_53587261的博客 1377

ClickHouse Operator 安装与部署详解

ClickHouse Operator 安装与部署详解 【免费下载链接】clickhouse-operator Altinity Kubernetes Operator for ClickHouse creates, configures and manages ClickHouse clusters running o...

gitblog_01183的博客 636

ClickHouse 5节点集群安装

在此架构中,配置了五台服务器。其中两个用于托管数据副本。其他三台服务器用于协调数据的复制。在此示例中,我们将创建一个数据库和表,将使用表引擎在两个数据节点之间复制该数据库和表。

IT 1万+
上一篇: Hive增加打印日志定位问题
下一篇: 定位metastore日志Too many open files报错
terry21
博客等级 码龄19年 13粉丝 8原创
评论 5
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值