离线数仓项目实战!其一环境配置

一.修改虚拟机配置

关闭防火墙并禁止自启:

systemctl stop firewalld
systemctl disable firewalld

修改用户名:

vi /etc/hostname 

配置静态ip,在虚拟机执行如下命令:

vi /etc/sysconfig/network-scripts/ifcfg-ens33

如下图配置,分别是代表什么呢?
第一个红框里的BOOTPROTO默认dbcp代表自动获取ip,修改为static这样ip就不会变化了。
第二个红框的ONBOOT=“yes”代表开启启动。
第三个红框的不要照抄我的配置需要查看自己的网关等进行配置查看方法如下图:

修改映射关系,在虚拟机执行如下命令:

vi /etc/hosts

配置上自己虚拟机ip和名字

然后我们可以配置一下Windows的映射,配置完有什么好处呢?举个例子访问hdfs的时候我们要使用ip:9870但是配置完映射可以用shucang:9870非常的方便,但是不配置也不会影响使用,
配置过程如下:C:\Windows\System32\drivers\etc路径下有一个hosts,

但是在这里是无法更改的,所以我们把它拖到随便一个其他地方比如说桌面上,会问你需要管理员权限才能继续,点击继续,然后编辑,加上虚拟机的ip和名字然后保存,再把它拖回原位置就可以了:

重启网卡服务:

systemctl restart network

修改linux的安全机制,修改如下:

vi /etc/selinux/config

配置免密登录本机(第二条shucang是我的名字改成你自己的,后续不再提醒):

ssh-keygen -t rsa

ssh-copy-id shucang

修改yum源,在虚拟机按如下步骤执行命令即可:

最简单的安装方式:
curl -o /etc/yum.repos.d/CentOS-Base.repo https://mirrors.aliyun.com/repo/Centos-7.repo


修改阿里云的镜像文件:
1、cd /etc/yum.repos.d/ 
2、备份⼀下:mv CentOS-Base.repo CentOS-Base.repo.bak
3、下载阿⾥云镜像到本地:
 curl -o /etc/yum.repos.d/CentOS-Base.repo https://mirrors.aliyun.com/repo/Centos-7.repo
4、清除yum的缓存
   yum clean all
   yum makecache
5、yum install -y ntpdate
yum install -y vim
yum install -y net-tools

二.安装JDK

按如下步骤操作:
注意:软件安装位置后续很多地方都要用,如果选择的位置和我的不同请注意更改。

installs存放安装的软件
modules存放安装包
cd /opt
mkdir -p /opt/installs
mkdir -p /opt/modules

tar -zxvf jdk-8u171-linux-x64.tar.gz -C /opt/installs/
mv jdk1.8.0_171/ jdk

配置环境变量:
export JAVA_HOME=/opt/installs/jdk
export PATH=$PATH:$JAVA_HOME/bin

刷新环境变量:
source /etc/profile

验证:
java -version

三.安装Hadoop【伪分布式】hdfs以及yarn都需要安装

按如下步骤操作,注意格式化的操作尽量都在对应软件的家目录下面防止会出现一些错误,比如hadoop就是cd /opt/installs:

先安装hdfs:
tar -zxvf hadoop-3.3.1.tar.gz -C /opt/installs/
mv hadoop-3.3.1/ hadoop
环境变量:

export HADOOP_HOME=/opt/installs/hadoop
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

刷新环境变量
source /etc/profile

验证:hadoop version

修改配置
1、修改core-site.xml
<configuration>
  <!-- 设置namenode节点 -->
  <!-- 注意: hadoop1.x时代默认端⼝9000 hadoop2.x时代默认端⼝8020 hadoop3.x时 代默认端⼝ 9820 -->
  <property>
    <name>fs.defaultFS</name>
    <value>hdfs://shucang:9820</value>
  </property>
  
  <!-- hdfs的基础路径,被其他属性所依赖的⼀个基础路径 -->
  <property>
    <name>hadoop.tmp.dir</name>
    <value>/opt/installs/hadoop/tmp</value>
  </property>
</configuration>


2、修改hdfs-site.xml
<configuration>
    <property>
        <!--备份数量-->
        <name>dfs.replication</name>
        <value>1</value>
    </property>
    <!--secondarynamenode守护进程的http地址:主机名和端⼝号。参考守护进程布局 -->
    <property>
        <name>dfs.namenode.secondary.http-address</name>
        <value>shucang:9868</value>
    </property>
    <!-- namenode守护进程的http地址:主机名和端⼝号。参考守护进程布局 -->
    <property>
        <name>dfs.namenode.http-address</name>
        <value>shucang:9870</value>
    </property>
</configuration>
3、修改hadoop-env.sh
export HDFS_NAMENODE_USER=root
export HDFS_DATANODE_USER=root
export HDFS_SECONDARYNAMENODE_USER=root
export YARN_RESOURCEMANAGER_USER=root
export YARN_NODEMANAGER_USER=root

export JAVA_HOME=/opt/installs/jdk

4、修改workers 文件
shucang


4、格式化namenode
hdfs namenode -format

然后安装Yarn:

/opt/installs/hadoop/etc/hadoop 文件夹下:
在mapred-site.xml中(注意不要把里面汉字描述也粘进去!并且记得要保存再退出):

<configuration>
    <property>
        <name>mapreduce.framework.name</name>
        <value>yarn</value>
    </property>
</configuration>

指定mapreduce运行平台为yarn

继续修改yarn-site.xml:

<!--指定resourceManager启动的主机为第一台服务器-->
    <property>
        <name>yarn.resourcemanager.hostname</name>
        <value>shucang</value>
    </property>


    <!--配置yarn的shuffle服务-->
    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value> 
    </property>

检查hadoop-env.sh 中是否配置了权限:

export YARN_RESOURCEMANAGER_USER=root
export YARN_NODEMANAGER_USER=root

继续配置,为了防止报AppMaster的错误,
在yarn-site.xml如下配置:

<property>
        <name>yarn.application.classpath</name>
        <value>/opt/installs/hadoop/etc/hadoop:/opt/installs/hadoop/share/hadoop/common/lib/*:/opt/installs/hadoop/share/hadoop/common/*:/opt/installs/hadoop/share/hadoop/hdfs:/opt/installs/hadoop/share/hadoop/hdfs/lib/*:/opt/installs/hadoop/share/hadoop/hdfs/*:/opt/installs/hadoop/share/hadoop/mapreduce/*:/opt/installs/hadoop/share/hadoop/yarn:/opt/installs/hadoop/share/hadoop/yarn/lib/*:/opt/installs/hadoop/share/hadoop/yarn/*</value> 
    </property>

可以看到这个classpath非常的长,并且它跟你的配置环境等有关系,粘贴我的很可能有问题,那该怎么获取呢?
在hadoop下执行如下命令,下面那一坨就是我们要的东西:

hadoop classpath


配置完成启动和停止yarn平台:

启动: start-yarn.sh
停止: stop-yarn.sh

打开浏览器:
(访问前要开启服务可以直接执行start-all.sh,关闭的话就是stop-all.sh)
hdfs访问:shucang:9870
yarn访问:shucang:8088

四.安装MYSQL

按步骤执行:

先删除mysql相关的内容
rpm -qa | grep mariadb
rpm -e mariadb-libs-5.5.56-2.el7.x86_64 --nodeps



这个软件mysql80-community-release-el7-4.noarch.rpm,它不是一个安装包,而已是一个引导包
cd /opt/modules
yum install -y wget
wget https://dev.mysql.com/get/mysql80-community-release-el7-4.noarch.rpm

# yum install -y mysql80-community-release-el7-4.noarch.rpm

yum localinstall -y  mysql80-community-release-el7-4.noarch.rpm
##1.2 安装mysql
yum install -y mysql-community-server

如果报错:
源 "MySQL 8.0 Community Server" 的 GPG 密钥已安装,但是不适用于此软件包。请检查源的公钥 URL 是否配置正确。

 失败的软件包是:mysql-community-client-8.0.28-1.el7.x86_64
 GPG  密钥配置为:file:///etc/pki/rpm-gpg/RPM-GPG-KEY-mysql
执行如下:
rpm --import https://repo.mysql.com/RPM-GPG-KEY-mysql-2022

并且再次安装:yum install -y mysql-community-server
假如还出问题,使用如下命令:
 sudo yum install mysql-server --nogpgcheck
 
##1.3 启动mysql服务
[root@hadoop yum.repos.d]# systemctl start mysqld
##1.4 查看初始root密码
[root@hadoop yum.repos.d]# grep 'temporary password' /var/log/mysqld.log

##1.5 登陆mysql
[root@hadoop yum.repos.d]# mysql -uroot -p

修改密码:
alter user root@localhost identified by 'Y1h2e3d4u5!';

set global validate_password.policy=LOW;
set global validate_password.length=4;
set global validate_password.mixed_case_count=0;
set global validate_password.number_count=0;
set global validate_password.special_char_count=0;

# 2. 修改密码
alter user root@localhost identified by '123456';


##1.6 远程授权
create user 'root'@'%' identified by  '123456';
grant all privileges on *.* to 'root'@'%' with grant option;
flush privileges;


以下这个如果不使用navicat 可以不执行。
ALTER USER 'root'@'%' IDENTIFIED WITH mysql_native_password BY '123456';
##1.8 重启mysql的服务
service mysqld restart

自动化脚本(有兴趣的可以自己尝试配置使用一下):

#!/bin/bash

####################################
# 1.建立临时文件夹
# 2.tar文件 ,与此脚本放同一目录
# 3.删除centos7自带的MySQL
# 4.按顺序安装MySQL相关的依赖包
# 5.修改MySQL的密码 -- 默认使用密码为123456
# 6.配置MySQL可以被远程访问(实际开发中也是,有些机器需要有访问这个机器MySQL的权限)
# 7.开放3306端口,提供远程访问
# $? => 代表上一个命令执行后的退出状态: 0->成功,1->失败
# example => sh mysql8.0.26.sh
####################################
# echo -e "\e[1;32m****\e[0m"
# 安装vim
yum install -y vim


#第一步、创建一个临时的文件夹
mkdir mysql_rpm


#第二步、把新上传的MySQL的安装包移动到mysql_rpm下
mv mysql-8.0.26-1.el7.x86_64.rpm-bundle.tar mysql_rpm


#进入到mysql_rpm目录下,开始执行下面的操作
cd mysql_rpm


#解压MySQL的安装包,在当前目录下
tar -xvf mysql-8.0.26-1.el7.x86_64.rpm-bundle.tar 


#查看集群上现有的MySQL,需要删除掉
mysql_old=`rpm -qa | grep mariadb`
echo -e "\e[1;32m当前centos中MySQL版本是:   ${mysql_old}\e[0m"

#删除自带的MySQL
rpm -e --nodeps ${mysql_old}


#验证旧版本的MySQL是否被删除掉
mysql_validate=`rpm -qa | grep mariadb`


echo -e "\e[1;32m验证旧版的MySQL是否被删除干净:   ${mysql_validate}\e[0m"


#开始安装MySQL,注意:这些包安装是有顺序的
rpm -ivh mysql-community-common-8.0.26-1.el7.x86_64.rpm

#判断安装的过程是否成功
if [ $? == 0 ];then
	echo -e "\e[1;32m安装------mysql-community-common-8.0.26-1.el7.x86_64.rpm  --  第1个包------- 成功\e[0m"
else
	echo -e "\e[1;31m安装------mysql-community-common-8.0.26-1.el7.x86_64.rpm  --  第1个包------- 失败\e[0m"
fi

#第二个包
rpm -ivh mysql-community-client-plugins-8.0.26-1.el7.x86_64.rpm


if [ $? == 0 ];then
        echo -e "\e[1;32m安装------mysql-community-client-plugins-8.0.26-1.el7.x86_64.rpm  --  第2个包------- 成功\e[0m"
else
        echo -e "\e[1;31m安装------mysql-community-client-plugins-8.0.26-1.el7.x86_64.rpm  --  第2个包------- 失败\e[0m"
fi


#第三个包:安装rpm -ivh numactl* 这是安装以前缀numactl开始的所有安装包
rpm -ivh mysql-community-libs-8.0.26-1.el7.x86_64.rpm


if [ $? == 0 ];then
        echo -e "\e[1;32m安装------mysql-community-libs-8.0.26-1.el7.x86_64.rpm  --  第3个包------- 成功\e[0m"
else
        echo -e "\e[1;31m安装------mysql-community-libs-8.0.26-1.el7.x86_64.rpm  --  第3个包------- 失败\e[0m"
fi


#第四个包:安装mysql-community-client-8.0.26-1.el7.x86_64.rpm
rpm -ivh mysql-community-client-8.0.26-1.el7.x86_64.rpm

if [ $? == 0 ];then
        echo -e "\e[1;32m安装------mysql-community-client-8.0.26-1.el7.x86_64.rpm  第4个包------- 成功\e[0m"
else
        echo -e "\e[1;31m安装------mysql-community-client-8.0.26-1.el7.x86_64.rpm  第4个包------- 失败\e[0m"
fi

yum install -y net-tools
yum install -y perl
yum install libaio


#第五个包:安装 mysql-community-server-8.0.26-1.el7.x86_64.rpm
rpm -ivh mysql-community-server-8.0.26-1.el7.x86_64.rpm

if [ $? == 0 ];then
        echo -e "\e[1;32m安装------mysql-community-server-8.0.26-1.el7.x86_64.rpm  --  第5个包------- 成功\e[0m"
else
        echo -e "\e[1;31m安装------mysql-community-server-8.0.26-1.el7.x86_64.rpm  --  第5个包------- 失败\e[0m"
fi


#启动MySQL
service mysqld start
# systemctl start mysqld

#验证是否启动成功可以查看MySQL的启动状态
service mysqld status >start.log

#查看MySQL的初始密码,把携带密码信息加载到下面这个文件中
grep 'temporary password' /var/log/mysqld.log >result.txt


#读取文件中的密码,用于登录MySQL
password_mysql=`cat result.txt | grep 'localhost' | awk -F ': ' '{print $2}'`
echo -e "\e[1;32m查看MySQL的原始密码是啥 \e[0m -->  \e[1;31m  ${password_mysql}\e[0m"

#连接MySQL的几个参数
hostname="localhost"
username="root"
port="3306"

#进入MySQL的交互模式,修改相应的参数,设置简单的密码为123456,为了以后自己用方便,实际上生产的密码都比较复杂一些
#mysql -h${hostname} -u${username} -P${port} -p${password_mysql} <<EOF
mysql  -u${username} -p${password_mysql} --connect-expired-password <<EOF
set global validate_password.policy=LOW;						
set global validate_password.length=4;							
set global validate_password.mixed_case_count=0;	  
set global validate_password.number_count=0;			 	
set global validate_password.special_char_count=0;	
alter user root@localhost identified by '123456';
create user 'root'@'%' identified by  '123456';
grant all privileges on *.* to 'root'@'%' with grant option;
ALTER USER 'root'@'%' IDENTIFIED WITH mysql_native_password BY '123456';
flush privileges;

	quit

EOF

# # 防火墙开启状态下,开放3306端口
# openPort(){
#   echo -e "\e[1;32m开放3306端口"
#   firewall-cmd --zone=public --add-port=3306/tcp --permanent
#   echo -e "\e[1;32m重启firewall..."
#   firewall-cmd --reload
# }
# openPort

五.安装Hive

按步骤操作:

1、修改为本地模式
     tar -zxvf apache-hive-3.1.2-bin.tar.gz -C /opt/installs/
     mv apache-hive-3.1.2-bin/ hive
配置环境变量:
export HIVE_HOME=/opt/installs/hive
export PATH=$PATH:$HIVE_HOME/bin

刷新:  source /etc/profile
[root@shucang conf]# mv hive-env.sh.template hive-env.sh
[root@shucang conf]# cp hive-default.xml.template hive-site.xml

修改hive-env.sh 中的内容:
export HIVE_CONF_DIR=/opt/installs/hive/conf
export JAVA_HOME=/opt/installs/jdk
export HADOOP_HOME=/opt/installs/hadoop
export HIVE_AUX_JARS_PATH=/opt/installs/hive/lib
export HADOOP_HEAPSIZE=4096

修改hive-site.xml,将以前的设置全部删除
<!--配置MySql的连接字符串-->
<property>
  <name>javax.jdo.option.ConnectionURL</name>
  <value>jdbc:mysql://localhost:3306/hive?createDatabaseIfNotExist=true</value>
  <description>JDBC connect string for a JDBC metastore</description>
</property>
<!--配置MySql的连接驱动-->
<property>
  <name>javax.jdo.option.ConnectionDriverName</name>
  <value>com.mysql.cj.jdbc.Driver</value>
  <description>Driver class name for a JDBC metastore</description>
</property>
<!--配置登录MySql的用户-->
<property>
  <name>javax.jdo.option.ConnectionUserName</name>
  <value>root</value>
  <description>username to use against metastore database</description>
</property>
<!--配置登录MySql的密码-->
<property>
  <name>javax.jdo.option.ConnectionPassword</name>
  <value>123456</value>
  <description>password to use against metastore database</description>
</property>
<!-- 以下两个不需要修改,只需要了解即可 -->
<!-- 该参数主要指定Hive的数据存储目录  -->
<property>
    <name>hive.metastore.warehouse.dir</name>
    <value>/user/hive/warehouse</value>
  </property>
<!-- 该参数主要指定Hive的临时文件存储目录  -->
 <property>
    <name>hive.exec.scratchdir</name>
    <value>/tmp/hive</value>
  </property>
  
  <!--Hive工作的本地临时存储空间-->
<property>
    <name>hive.exec.local.scratchdir</name>
    <value>/opt/installs/hive/iotmp/root</value>
</property>
<!--如果启用了日志功能,则存储操作日志的顶级目录-->
<property>
    <name>hive.server2.logging.operation.log.location</name>
    <value>/opt/installs/hive/iotmp/root/operation_logs</value>
</property>
<!--Hive运行时结构化日志文件的位置-->
<property>
    <name>hive.querylog.location</name>
    <value>/opt/installs/hive/iotmp/root</value>
</property>
<!--用于在远程文件系统中添加资源的临时本地目录-->
<property>
    <name>hive.downloaded.resources.dir</name>
    <value>/opt/installs/hive/iotmp/${hive.session.id}_resources</value>
</property>

<property>
    <name>hive.server2.thrift.bind.host</name>
    <value>shucang</value>
    <description>Bind host on which to run the HiveServer2 Thrift service.</description>
  </property>
  <property>
    <name>hive.server2.thrift.port</name>
    <value>10000</value>
    <description>Port number of HiveServer2 Thrift interface when hive.server2.transport.mode is 'binary'.</description>
  </property>
  <property>
        <name>hive.metastore.uris</name> 
        <value>thrift://shucang:9083</value>
  </property>

创建各种目录和文件夹:
hdfs dfs -mkdir -p /user/hive/warehouse 
hdfs dfs -mkdir -p /tmp/hive/ 
hdfs dfs -chmod 750 /user/hive/warehouse 
hdfs dfs -chmod 777 /tmp/hive


 cd /opt/installs/hive/
mkdir iotmp
 chmod 777 iotmp

拷贝驱动包到lib 

修改 core-site.xml【hadoop】的
<property>
    <name>hadoop.proxyuser.root.hosts</name>
    <value>*</value>
</property>
<property>
    <name>hadoop.proxyuser.root.groups</name>
    <value>*</value>
</property>
<property>
    <name>hadoop.http.staticuser.user</name>
    <value>root</value>
</property>
<!-- 不开启权限检查 -->
<property>
   <name>dfs.permissions.enabled</name>
   <value>false</value>
</property>


格式化元数据,一定要在hive家目录下执行:
schematool --initSchema -dbType mysql

2、启用元数据  metastore
拷贝一个脚本  hive-service-manager.sh 
[root@shucang hive]# cd /usr/local/bin
[root@shucang bin]# chmod 777 hive-server-manager.sh

3、设置远程连接  hiveserver2
一个脚本启动两个服务
hive-server-manager.sh start

六.安装Flume

解压,重命名,修改配置文件:

tar -zxvf apache-flume-1.9.0-bin.tar.gz -C /opt/installs/
mv apache-flume-1.9.0-bin/ flume

添加环境变量并刷新:

vi /etc/profile

export FLUME_HOME=/opt/installs/flume
export PATH=$PATH:$FLUME_HOME/bin:

source /etc/profile

修改一下flume的配置文件:
复制一个副本防止你改错回不去。

cp flume-env.sh.template flume-env.sh

七.DateX安装

按步骤操作:

1、上传  /opt/modules
2、解压   tar -zxvf datax.tar.gz  -C /opt/installs
3、修改/etc/profile
   配置环境变量:
   export DATAX_HOME=/opt/installs/datax
   export PATH=$PATH:$DATAX_HOME/bin
   
   source /etc/profile


rm -rf /opt/installs/datax/plugin/*/._*
cp /opt/installs/hive/lib/mysql-connector-java-8.0.26.jar /opt/installs/datax/lib/

八.安装SQOOP

按步骤操作:

tar -zxvf sqoop-1.4.7.bin__hadoop-2.6.0.tar.gz -C /opt/installs/

重命名:
mv sqoop-1.4.7.bin__hadoop-2.6.0 sqoop

也可以使用如下命令:--strip-components 1 解压后获取一层里面的内容
mkdir /opt/installs/sqoop && tar -xzvf sqoop-1.4.7.bin__hadoop-2.6.0.tar.gz -C /opt/installs/sqoop --strip-components 1

配置环境变量并且刷新:

vi /etc/profile
export SQOOP_HOME=/opt/installs/sqoop
export PATH=$PATH:$SQOOP_HOME/bin
source /etc/profile

修改配置文件:
进入到/opt/installs/sqoop/conf

cp sqoop-env-template.sh sqoop-env.sh

修改这个可执行脚本中的变量

export HADOOP_COMMON_HOME=/opt/installs/hadoop
export HADOOP_MAPRED_HOME=/opt/installs/hadoop
export HIVE_HOME=/opt/installs/hive

复制一个mysql的jar包:

cp /opt/installs/hive/lib/mysql-connector-java-8.0.26.jar ../lib/

九.安装DS【单机版】

因为字太多了比较累,而且这个之前也写过详细配置了所以这次写的比较简略,想看详细的可以去我的另一篇文章:

搭建单机版DolphinScheduler,并编写启动关闭脚本_dolphinscheduler 启动ui-CSDN博客

按步骤操作:

上传,解压
tar -zxvf  xxx.tar.gz  -C /opt/installs/

重名名
进入dolphinscheduler

拷贝mysql的驱动包:

cp /opt/installs/hive/lib/mysql-connector-java-8.0.26.jar ./api-server/libs/
cp /opt/installs/hive/lib/mysql-connector-java-8.0.26.jar ./alert-server/libs/
cp /opt/installs/hive/lib/mysql-connector-java-8.0.26.jar ./master-server/libs/
cp /opt/installs/hive/lib/mysql-connector-java-8.0.26.jar ./worker-server/libs/
cp /opt/installs/hive/lib/mysql-connector-java-8.0.26.jar ./tools/libs/
cp /opt/installs/hive/lib/mysql-connector-java-8.0.26.jar ./standalone-server/libs/standalone-server/

数据库执行:

CREATE DATABASE dolphinscheduler DEFAULT CHARACTER SET utf8 DEFAULT COLLATE utf8_general_ci;

linux执行:

export DATABASE=mysql
export SPRING_PROFILES_ACTIVE=dolphinscheduler
export SPRING_DATASOURCE_URL="jdbc:mysql://shucang:3306/dolphinscheduler?useUnicode=true&characterEncoding=UTF-8&useSSL=false&allowPublicKeyRetrieval=true"
export SPRING_DATASOURCE_USERNAME=root
export SPRING_DATASOURCE_PASSWORD=123456

初始化数据库:

bash tools/bin/upgrade-schema.sh

修改配置文件:/opt/installs/dolphinscheduler/standalone-server/conf

application.yaml:

修改 DolphinScheduler 的配置
在 DolphinScheduler 的安装目录下找到 conf/application.yaml 文件。
将其中关于数据库连接的部分修改为指向你的 MySQL 实例,包括用户名、密码、数据库名等信息。以下是修改后的示例:
  datasource:
    driver-class-name: com.mysql.cj.jdbc.Driver
    url: jdbc:mysql://shucang:3306/dolphinscheduler?useUnicode=true&characterEncoding=UTF-8&useSSL=false&allowPublicKeyRetrieval=true
    username: root
    password: 123456

启动:
 

注意: Standalone 仅建议 20 个以下工作流使用,因为其采用内存式的 H2 Database, Zookeeper Testing Server,任务过多可能导致不稳定,并且如果重启或者停止 standalone-server 会导致内存中数据库里的数据清空。 

如何启动和关闭单机版:
# 启动 Standalone Server 服务
bash ./bin/dolphinscheduler-daemon.sh start standalone-server
# 停止 Standalone Server 服务
bash ./bin/dolphinscheduler-daemon.sh stop standalone-server
# 查看 Standalone Server 状态
bash ./bin/dolphinscheduler-daemon.sh status standalone-server

如图按步骤修改:

修改组件下的common.properties

resource.storage.type=HDFS
resource.storage.upload.base.path=/dolphinscheduler
resource.hdfs.fs.defaultFS=hdfs://shucang:9820

修改hdfs的权限:
hdfs dfs -chmod 777 /

访问地址:http://192.168.233.134:12345/dolphinscheduler/ui
账号和密码:  admin  dolphinscheduler123

下一篇文章开始项目实操
离线数仓项目实战!其二导入数据与数据仓库维度建模-CSDN博客

十.资源免费分享

所使用的软件全部0积分分享,但是我不知道cdsn会不会要求什么下载条件,起码我没设置:
【免费】jdk-8u171-linux-x64.zip资源-CSDN文库
【免费】linux-hadoop3.3.1资源-CSDN文库
【免费】linux-mysql-8.0.26资源-CSDN文库
【免费】apache-hive-3.1.2-bin资源-CSDN文库
【免费】apache-flume-1.9.0-bin资源-CSDN文库
【免费】sqoop-1.4.7.bin-hadoop-2.6.0资源-CSDN文库
【免费】虚拟机linux使用的datax资源-CSDN文库
【免费】apache-dolphinscheduler-3.1.8-bin.zip资源-CSDN文库

需要的自取。

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

出发行进

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值