Apache Ranger0.6版本源码编译

AI权益加码!Claude Code、Cursor等20+工具免费用! 购周边限时加赠Coding Plan Lite,畅享主流AI工具!学习进阶更高效! 阅读详情

1 Ranger简介

Apache Ranger提供一个集中式安全管理框架,它可以对Hadoop生态的组件如Hive,Hbase进行细粒度的数据访问控制.通过操作Ranger控制台,管理员可以轻松的通过配置策略来控制用户访问HDFS文件夹、HDFS文件、数据库、表、字段权限.这些策略可以为不同的用户和组来设置,同时权限可与hadoop无缝对接.

2 准备

2.1 环境说明

1 Ranger源码编译依赖如下linux组件:maven,git,gcc,MySQL

2 安装git和gcc时采用yum安装,请配置好本地源

3 安装mysql是请确保清理好系统自带的mysql.

 虚拟机里Linux系统版本

[root@localhost ranger-0.5.0-usersync]# cat /etc/issue | grep Linux

Red Hat Enterprise Linux Server release 6.5 (Santiago)

java版本

[root@localhost native]# Java -version

java version "1.7.0_67"

注:官网强调一定是1.7以上版本.

Java(TM) SE RuntimeEnvironment (build 1.7.0_67-b01)

Java HotSpot(TM) 64-BitServer VM (build 24.65-b04, mixed mode)

2.1.3mysql版本

[root@localhost native]# mysql -uroot -proot-e"select version()";

Warning: Using a password onthe command line interface can be insecure.

+-----------+

| version() |

+-----------+

5.6.14    |

+-----------+

注:

1 Mysql 驱动为mysql-connector-java-5.1.31-bin.jar

2 改jar被重命名后放置在/usr/share/java/内被其它Ranger插件共享

2.1.4 Maven版本

 [root@localhost bin]# mvn -version

Apache Maven 3.2.1 (ea8b2b07643dbb1b84b6d16e1f08391b666bc1e9;2014-02-15T01:37:52+08:00)

Maven home: /root/maven-3.2.1

Java version: 1.7.0_67,vendor: Oracle Corporation

Java home:/root/jdk1.7.0_67/jre

Default locale: en_US,platform encoding: UTF-8

OS name: "linux",version: "2.6.32-431.el6.x86_64", arch: "amd64", family:"unix"

2.1.5 git版本

 [root@localhost native]# git version

git version 1.7.1

2.2 编译准备

2.2.1 安装maven

[root@localhost ~]# cd /root

#下载地址

#https://maven.apache.org/download.cgi 最新版

#http://apache.opencas.org/maven/binaries/apache-maven-3.2.1-bin.tar.gz

tar –zxvf apache-maven-3.2.1-bin.tar.gz

mv apache-maven-3.2.1-bin maven-3.2.1

#修改环境变量,在~/.bash_profile里定义MAVEN_HOME并追加到PATH里

export MAVEN_HOME=/root/maven-3.2.1

:$MAVEN_HOME/bin:$PATH

#source环境变量,测试maven版本

source ~/.bash_profile

mvn –version

2.2.2 安装git

这里通过本地源yum方式安装.

yum install git

2.2.3 安装gcc

yum install gcc

2.2.4 安装mysql

1) 安装Mysql服务、客户端

rpm –ivh MySQL-shared-5.6.14-1.el6.x86_64.rpm

rpm –ivh MySQL-shared-compat-5.6.14-1.el6.x86_64.rpm

rpm –ivh MySQL-server-5.6.14-1.el6.x86_64.rpm

rpm –ivh MySQL-client-5.6.14-1.el6.x86_64.rpm

2) 启动mysql服务

service mysql start

3) 修改mysql初始密码,先找到安装时的初始密码,在修改成自己的密码

[root@localhost ~]#cat /root/.mysql_secret

# The random password set for the root user at Tue Dec 2221:17:22 2015 (local time):RUmKBqcY

mysql –uroot -p RUmKBqcY

set password=password(‘root’)

3、编译

首先到 https://github.com/apache/incubator-ranger.git clone下来Ranger的源码。(当时因为代理原因在终端一直clone不下来,无奈只好在网页版处下载了zip格式下来)

之后进入解压文件夹目录下,使用

export MAVEN_OPTS="-Xmx512M" 设置参数,否则会出错:gc overhead limit exceeded (然而我设置为512仍然不行,改为1024才通过)

mvn clean compile package assembly:assembly install -Dmaven.test.skip=true;

此处将单元测试全部略过,因为有的单元测试有问题会影响编译。

这中间出现了n次问题。具体做到的修改如下:

maven的settings.xml文件修改远程仓库的url:

<mirror>
      <id>central_mirror</id>
      <url>http://repo1.maven.org/maven2/</url>
      <mirrorOf>central</mirrorOf>
    </mirror>
之后修改ranger项目根目录的pom文件,如下:

<repository>
            <id>apache.snapshots.https</id>
            <name>Apache Development Snapshot Repository</name>
            <!--url>https://repository.apache.org/content/repositories/snapshots</url-->
            <url>http://repo1.maven.org/maven2/</url>
            <snapshots>
                <enabled>true</enabled>
            </snapshots>
          </repository>
之后又遇到的其他问题已经在其他博客中写道了,主要是自己编源码的经验太少,太嫩,出现了一堆问题。

最后看到下图时,感动的都要哭了。。。。



查找已编译打包好的文件

ls target/*.tar.gz

结果如下:


4. 配置

Ranger在solr里存储日志,RangerAdmin UI依赖solr组件完成审计日志的查询,所以需要先安装和配置好Solr

注:目前(HDFS-Plugin)的测试日志审计时没选择Solr方式,但还是先配置好Standalone模式的solr.

4.1 Solr或SolrCloud安装配置

cd /root/incubator-ranger/security-admin/contrib/solr_for_audit_setup

#打开install.properties文件,修改参数的值如下所示:


其实打开install.properities文件,会发现上述设置都已有默认值,有的可能被注释掉了。

#安装单节点的solr

./ setup.sh

#按照如下安装提示启动、停止solr服务

cat/opt/solr/ranger_audit_server/install_notes.txt

#启动solr

/opt/solr/ranger_audit_server/scripts/start_solr.sh

#验证solr服务是否可正常使用

lsof –i:6083

http://192.168.56.101:6083

#确保防火墙已经关闭

chkconfig iptables off

4.2  Ranger Admin安装配置

cp /opt/ranger/incubator-ranger-master/target/ranger-0.6.0-SNAPSHOT-admin.tar.gz /opt

cd /opt

可以看到opt目录下已有该tar.gz文件


#安装Ranger Admin

./setup.sh

见到如下结果,又要泪奔了,因为mysql那里解决了好多好多问题。。。。


#启动Ranger Admin服务

ranger-admin start

#验证Ranger Admin服务,如果出现Ranger的登录界面,说Okay了.注:用户名/密码 admin/admin

lsof –i:6080

访问页面:http://localhost:6080,出现了下图,就说明安装成功了。哈哈


用户名:admin;密码:admin  登陆进去之后,出现下图:


暂时告一段落,之后细化的再继续博客。。。赶快回去啦。。。

Apache Ranger的安装及安装过程中问题的解决方法 Apache Ranger的安装及安装过程中问题的解决方法 今天正好有点时间,想着把ranger的安装方法写一下,因为当时安装时遇到了很多问题,也查了很多资料,就把自己的经验写出来,防止刚安装的人走弯路,由于时间比较久远了,难免有些遗漏,有什么问题可以留言。 声明:我安装时候的最高版本ranger-2.1.0,但是我没安装成功,最后安装的是ranger-2.0.0. 全文导航Apache Ranger的安装及安装过程中问题的解决方法安装准备可能出现的问题:编译过程中断:显示某些压缩文件打开失败获取依赖 阅读详情

相关推荐

Ranger编译安装应用

1.Ranger简介:              Ranger的愿景是给apache hadoop生态系统提供全面的安全管理,目前支持的模块已经比较全面,特别对hdp版本各个模块支持的比较全,比如hdfs、yarn、hive、hbase、storm、kafka、solr、knox、atlas等,对这些模块进行细粒度的数据访问授权和审计来对数据进行有效保护;    目前ranger已经发行了1.

qingzhenli的博客 3570

Apache Ranger 统一授权管理框架(二)集成CDH6.3.1编译安装

一、源码下载 Apache Ranger当前在GitHub中最新版本是2.1.0。安装ranger需要源码安装,官方没有提供编译好的二进制包,同时,对于要使用ranger部署的Hadoop组件,需要考虑到版本之间的兼容性。 官网地址:https://ranger.apache.org/ Git地址:https://github.com/apache/ranger 1、前提条件 JDK 8 Maven 3.6.2 wget http://mirrors.tuna.tsinghua.edu.cn/apa

gmHappy 3558

Apache Ranger:(一)安装部署

Ranger提供一个集中式安全管理框架, 并解决授权和审计。它可以对生态的组件如、Yarn、等进行细粒度的数据访问控制。通过操作Ranger控制台,管理员可以轻松的通过配置策略来控制用户访问权限。说白了就是管理大多数框架的授权问题。

小健的博客 5172

干货:一文看懂Apache Ranger | 凌云时刻

凌云时刻 ·技术导读:Apache Ranger来源于XA Secure公司。2013年,XA Secure在加利福尼亚成立,专门做Hadoop生态的安全管控。2014年,Horton...

云布道师 8488

Apache Ranger 2.0.0Apache Ranger 2.1.0编译

apache ranger 编译过程

qq_43623727的博客 666

Apache Ranger权限管理框架

一、什么是Apache Ranger Apache Ranger来源于2013年成立于美国加利福尼亚的XA Secure公司,它是一个Hadoop安全相关的开源组件。在2014年,Hortonworks收购了XA Secure公司,将其贡献给了Apache软件基金会,目前是Apache的顶级开源项目。 二、 Apache Ranger的特点 Apache Ranger是基于访问策略的权限控制模型,通过对库表配置不同的访问策略,再赋权给用户,达到数据隔离的目的。 ​ Apache Ranger提供了基于行

weixin_43914798的博客 9545

Apache Ranger 介绍与使用

1.Ranger简介 Apache Ranger提供一个集中式安全管理框架, 并解决授权和审计。它可以对Hadoop生态的组件如HDFS、Yarn、Hive、Hbase等进行细粒度的数据访问控制。通过操作Ranger控制台,管理员可以轻松的通过配置策略来控制用户访问权限。 优点: 提供了细粒度级(hive列级别) 基于访问策略的权限模型 权限控制插件式,统一方便的策略管理 支持审计日志,可以...

liu_xue_xue的专栏 6314

深入解析 Apache Ranger

Apache Ranger 是一个为大数据平台提供集中化安全管理的开源框架,专门用于确保 Hadoop 生态系统中的数据安全。Ranger 通过提供细粒度的访问控制和监控,帮助组织实现对数据的全面安全管理,确保数据访问的透明性、可控性和合规性。Apache Ranger 的架构由多个关键组件组成,每个组件都在安全管理流程中扮演着特定的角色。Ranger Admin(Ranger 管理服务)

hello.reader 3890

Windows环境IDEA下Ranger1.2.0源码编译

Windows环境IDEA下Ranger1.2.0源码编译 一、本地环境准备 git(2.16.2) maven(3.6.1) idea(2020.1) python(2.7.18) Tomcat(7.0.105) 以上安装步骤均可以百度 二、源码编译 用git clone 代码,Ranger官方版本1.2.0 仓库地址https://github.com/apache/ranger.git, 在cmd或者git bash 进入项目工程对应目录 使用如下命令编译源代码,注意编译超级费时间 mvn -D

有问题的请私信或关注v【技术印记】留言 6968

apache ranger源码编译

官方文档 http://ranger.apache.org/quick_start_guide.html Quick Start Guide Build Process 1. Check out the code from GIT repository git clone https://gitbox.apache.org/repos/asf/ranger.gi...

weixin_30319097的博客 362

Ranger 部署教程

本项目示例过程将以 部署安装 Ranger 2.4.0 版本为例

Boundivore的博客 1889

Hadoop + Hive + Apache Ranger 源码编译记录

由于 CDH(Cloudera's Distribution Hadoop )近几年已经开始收费并限制节点数量和版本升级,最近使用开源的 hadoop 搭了一套测试集群,其中的权限管理组件用到了Apache Ranger,所以记录一下编译打包过程。

三劫散仙 1101

release-ranger-2.0.0版本编译

编译ranger2.0.0组件 工具 描述 操作系统 CentOS Linux release 7.4.1708 (Core) maven apache-maven-3.3.9 jdk 1.8.0_121 ranger ranger-release-ranger-2.0.0 Ranger2.0版本支持的大数据组件版本(官网上能查到的,部分组件) 描述 Ran...

TT-Learning 1577

Apache Ranger大数据权限管理框架编译及安装

Apache Ranger是HDP体系统中安全管理的重要一环。它提供了具体资源(如HBase中的具体表)权限管控、访问监控、数据加密的功能

经历过大厂、小厂风风雨雨的程序佬 1585

Apache Ranger-2.2 源码编译

Apache Ranger是一个用来在Hadoop平台上进行监控,启用服务,以及全方位数据安全访问管理的安全框架

我胡汉三又回来了的博客 1443

Apache Ranger 2.4.0 安装部署

ranger2.4.0安装部署

guofei_ok的博客 2102

Apache Ranger KMS 部署文档

很久没写过部署文档了,不过 Apache Ranger KMS 的手动部署较为繁琐,网上的相关资料基本都是散装的,因此写了一篇进行总结。 文章目录背景安装部署安装 ranger-admin安装 ranger-kmsHDFS 配置Kerberos 配置HA 配置KMS LUNA HSMFAQ后记参考 背景 需要一个高可用的 KMS 服务用于数据静态加密(HDFS 透明加密 / ORC格式列加密)...

偷闲小苑 6742

Ranger概述及安装配置

Apache Ranger是一个用来在Hadoop平台上进行监控,启动服务,以及全方位数据安全访问管理的安全框架。Ranger愿景是在Apache Hadoop生态系统中提供全面的安全管理。随着企业业务的扩展,企业可能在多用户环境中运行多个工作任务,这就要求Hadoop内的数据安全性需要扩展为同时支持多种不同的需求进行数据访问,同时还需要提供一个可以可以对安全策略进行集中管理,配置和监控用户访问的框架。Ranger由此产生。

奔跑的蜗牛的博客 1303
上一篇: mvn install时Premature end of Content-Length delimited message body错误
下一篇: mvn常用命令
mm_bit
博客等级 码龄11年 84粉丝 89原创
评论 11
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值