Ubuntu17安装伪分布式Hadoop出现的问题与解决方法

AI权益加码!Claude Code、Cursor等20+工具免费用! 购周边限时加赠Coding Plan Lite,畅享主流AI工具!学习进阶更高效! 阅读详情

由于自己第一次在Linux环境下安装Hadoop,所有安装方法均参照同行写的技术博客。

1 安装ssh,pdsh,生成密钥实现无密码登陆

官方文档推荐安装ssh和pdsh,则参照官方文档安装两者并生成密钥:
http://hadoop.apache.org/docs/current/hadoop-project-dist/hadoop-common/SingleCluster.html#Pseudo-Distributed_Operation

由于pdsh在一般的安装技术博客中不常用,后期遇到了一些问题。
#2 安装jdk
#3 下载,验证文件,解压到/usr/local
于tar.gz中解压然后直接可以运行的程序,当然在任何地方都能运行。但是,按照FHS,解压出程序存放的位置,一般在/usr/local或者/opt。
因为FHS中话术模糊,很多人对/usr/local的目录存放有误解,详见下面链接中中外国友人对于"after first installing a FHS-compliant system"这句话的争论。
https://askubuntu.com/questions/6897/where-to-install-programs

在这个步骤之前,我还了解到有建立单独的hadoop用户和hadoop组的习惯。但官方文档没有提及,也就没有单独建立用户。直接用Ubuntu系统安装时建立的用户解压Hadoop并进行后面的配置。建立hadoop用户的技术博客在下方。
https://dblab.xmu.edu.cn/blog/install-hadoop-in-centos/
#4 配置hadoop-env.sh
https://www.digitalocean.com/community/tutorials/how-to-install-hadoop-in-stand-alone-mode-on-ubuntu-16-04
在上面的安装过程中,动态配置hadoop-env.sh的步骤可以参考下,这个方式比较

基于VM虚拟机下Ubuntu系统,Hadoop安装详细配置 基于VM虚拟机下Ubuntu系统,Hadoop安装详细配置,本地安装伪分布式安装和验证 阅读详情

相关推荐

ubuntuHadoop以及Spark的伪分布式安装:一

很多初学者在安装的时候会碰到各种各样的问题,尤其各种版本的搭配问题。所以特意做一个初步安装的引导,希望大家都能一次调试出来。经过测试,jdk11 + scala2.13.13 + hadoop3.3.6+spark3.5.1,这是暂时来说scalsa2能支持的最完美的搭配。Hadoop能支持到的java最完美的最后版本为jdk11,后面的版本也可以使用,但是java 11后面的版本去掉了javax.activation,导致无法浏览服务端的文件夹以及文件。

1353

关于hadoop伪分布安装遇到的格式化失败解决【yum、CentOS】

1.查看java的所有版本:yum list java* 2.安装免费版1.8: yum install java-1.8.0-openjdk.x86_64 3.配置java环境 vim /etc/profile JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk-1.8.0.xxxxxxxxx.x86_64 JRE_HOME=$JAVA_HOME/jre CLASS_PATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar:

cold的博客 2982

Ubuntu虚拟机下hadoop和hbase配置

ubuntu本机部署伪分布式hadoop和hbase

plager1_1的博客 1171

配置Hadoop 伪分布式 _NameNode格式化问题_解决方案

Ubuntu 16.04   Hadoop2.9.1】跟着厦大林子雨的实验指南配置伪分布式环境时出现了以下问题:在修改了/etc/hadoop/core-site.xml & /etc/hadoop/hdfs-site.xml后namenode -format时出现 Cannot create directory /Softwares/hadoop/tmp/dfs/name/curren...

lqy0927的博客 3556

Hadoop格式化报错,已解决

Re-format filesystem in Storage Directory root= /usr/local/hadoop/tmp/dfs/name; location= null ? (Y or N) Y

weixin_45757669的博客 8078

Ubuntu部署伪分布式hadoop

Ubuntu环境下部署伪分布式hadoop

我是一个博客 549

Hadoop伪分布式环境搭建(个人笔记)

Hadoop伪分布式搭建(个人笔记)

qq_52832635的博客 1017

Hadoop伪分布式安装教程

hivesever2的模拟用户功能,依赖于Hadoop提供的proxy user(代理用户功能),只有Hadoop中的代理用户才能模拟其他用户的身份访问Hadoop集群。因此,需要将hiveserver2的启动用户设置为Hadoop的代理用户,配置方式如下:修改配置文件。首先,在根目录下创建文件夹 Downloads 用来存放传输上来的文件,在 opt 目录下创建 module 文件用来存放使用解压出来的大数据软件,选择一个安全的,并确保记住它,因为后面需要用到这个密码。要测试它,请检查其状态。

cai_4的博客 5455

Hadoopubuntu虚拟机上的伪分布式部署|保姆级教程

2.经后续测试发现问题,虽然已经为ubuntu系统设置了java的环境变量,但hadoop实际运行时仍会出现找不到java-jdk的现象,故再对hadoop环境文件进行修改,此外,该文件还包括启动参数、日志、pid文件目录等信息。Hadoop之相关的很多工具都是通过java语言编写的,并且很多基于hadoop的应用开发也是使用java语言的,但是ubuntu系统不会默认安装java环境,所以需要安装java并配置环境变量。少了就说明上面的启动命令肯定没有完全运行成功,哪个少了就去google一下!

Yaoyao2024的博客 3606

Hadoop伪分布式安装配置 图文保姆级教程—保姆级配置教程—全网最全[官方手册版]

Hadoop伪分布式安装配置 图文保姆级教程—全网最全 一、安装前需要 1.VMware安装配置: 2.相关Hadoop软件包下载 3.Ubuntu镜像下载 二、Ubuntu系统安装 前提声明:已安装可忽略此步(但要有远程传输VMwareTools,和英文版的Ubuntu) 三、Hadoop单机+伪分布式配置 1.更新apt 2.安装Vim 3.安装SSH 4.配置SSH无密码登陆 5.安装Java环境 6.安装Hadoop 7.单机配置(非分布式) 8.伪分布式配置

m0_63324772的博客 7507

Ubuntu20.04环境下,安装hadoop

踏坑采蘑菇的我又来了!我相信很多人在刚刚接触Hadoop的时候,安装就是一大难题,各种报错让人眼花缭乱,实属不易。我今天来说一下Oracle VM VirtualBox下的Ubuntu版本安装hadoop2.7.1的伪分布式问题描述:搭建hadoop伪分布式 首先,我简单说一下,目前hadoop环境搭建大致可划分为四种,单机模式、伪分布式、完全分布式、高可用。如果是刚入门进行hadoop学习的,伪分布模式就足够了。 不管是百度网盘下载的,还是从哪个旮沓弄...

Mr_M1的博客 4809

Hadoop和Spark伪分布式安装使用】

本教程(也算不上不哈)适用于从零开始安装,就是电脑上什么都没安装的那种,因为本人就是,看到这篇文章的伙伴,让我们一起安装吧!注意下面下载的所有文件均是免费的,如有网页弹出付费,请及时叉掉,我提供的一般都是官方网站,谨防受骗,在此温馨提醒!重启后桌面如果还是英文的话,按以下设置:1、右键单击,点击设置,找到语言设置,设置为chinese即可,下面是我汉化后的,可以做个参考。由于本文着重点在于“Hadoop和Spark伪分布式安装”,所以虚拟机的安装我就不一个一个截图了,但又详细的步骤说明,大家可以参考一下。

m0_65640335的博客 1416

Hadoop伪分布式/分布式平台搭建教程以及安装过程中遇到部分问题解决经验

Hadoop集群的搭建和一些常见问题解决经验

weixin_73757883的博客 1485

大数据分析Hadoop + Spark 】10分钟搭建Hadoop伪分布式 )+ Spark(Local模式)环境

大数据分析Hadoop + Spark 】10分钟搭建Hadoop伪分布式 )+ Spark(Local模式)环境

qq_56022768的博客 4900

hadoop伪分布式安装[VMware Ubuntu Hadoop]

安装记录

乐之务在于心和,和心在于行之适 423

Hadoop3.1.3安装教程_单机/伪分布式配置_Hadoop3.1.3/Ubuntu18.04(16.04)

本篇教程由作者本人进行修改,原教程为厦门大学数据库实验室/林子雨出品,本篇教程针对VMware软件的使用以及Ubuntu安装,点此下载(此处包含hadoopUbuntu以及jdk1.8)有其他需求可另行下载。

Lin_han520的博客 5705

厦门大学数据库实验室林子雨Hadoop3.1.3单机/伪分布式安装

通过查看sshd_config文件,将PermitRootLogin设置为yes,然后重启SSH服务,可以解决问题。我个人建议不创建,也省去给创建的用户添加权限问题,减少不必要的代码(这个看个人喜好,当然如果还是想创建也是没有问题的,我这里就不创建——就用。这里不要输入任何,一直回车就行了(这边主要就是公私密匙的位置和密码,直接回车默认即可) ,我们会看到存储的位置(我的是在:/root/.ssh/),报错3:这里严格上说不算报错,所以如果看到这个提示不要太在意,ssh还是可以正常使用的。

G46829362的博客 3930

Ubuntu20.04中Hadoop安装教程

Hadoop依赖于分布式环境中的节点自动执行任务,在搭建Hadoop集群的时候,SSH无密码登录可以使得各个节点之间相互通信(主节点启动,停止,监控从节点时)不需要人为干预,能够使得主节点能够通过SSH远程执行命令(停止,启动Hadoop进程)。Hadoop 的配置文件位于 /usr/local/hadoop/etc/hadoop/ 中,伪分布式需要修改2个配置文件。打开软件,点击下载jdk-8u........gz文件,会提示先下载百度网盘,点击下载.deb版本的,下载好后如图。

L_txi的博客 1745

基于Ubuntu系统下的Hadoop 环境搭建(新手可尝)

文章目录Hadoop 环境搭建1、安装虚拟机2.安装 Ubuntu 操作系统3、关闭防火墙4、 SSH 安装5、 安装 Xshell 及 Xftp6、 安装 JDK7、安装 hadoop8. 结语 Hadoop 环境搭建 1、安装虚拟机 在一切行动的前提,我们需要先安装好虚拟机,毕竟是供我们学习用的,因此我们需要通过虚拟机利用Linux系统来实现我们的Hadoop环境安装虚拟机步骤: (1)下载 VMware 安装包。到 VMware® Workstation Pro 官网,选择对应的版本 进行下载。本

墨染的博客 8696
上一篇: 使用alter命令向sqlite中添加外键
下一篇: 安装,使用hadoop集群遇到的坑(vSphere虚拟化环境)
岚匀
博客等级 码龄10年 10粉丝 41原创
评论 2
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值