大数据centos7+hadoop2.7.1伪分布式集群虚拟机镜像

大数据学习hadoop环境安装过程布坑无数, 首先个人电脑配置不行,就挂一半了,虚拟机卡到不行;再者安装环境和hadoop、jdk版本切合十分紧密。安装过程比较耗时,网上千篇一律的安装教程,看似很有诚意,其实安装下来多多少少还是各种问题,搞不好一天都在安装这环境!

现在下载我的镜像,把ip地址改改,直接用,要加salve直接再克隆加个同局域网IP地址,master能无密码ssh即可,还请各位点赞加个关注!!!

直接挂载镜像开机即可,本地虚拟网卡ip地址改为192.168.6.1/24
网关改为192.168.6.2

链接:https://pan.baidu.com/s/1ZVcFPYmWZuFBlS4VMmmNEA
提取码:253z

启动Hadoop集群

格式化文件系统

格式化命令如下,该操作需要在HadoopMaster节点上执行:

[lyu@master ~]$ hdfs namenode -format

启动Hadoop

使用start-all.sh启动Hadoop集群,首先进入Hadoop安装主目录,然后执行启动命令:

[lyu@master ~]$ cd ~/hadoop-2.7.1

[lyu@master hadoop-2.7.1]$ sbin/start-all.sh

执行命令后,提示出入yes/no时,输入yes。

查看进程是否启动

在HadoopMaster的终端执行jps命令,在打印结果中会看到4个进程,分别是ResourceManager、Jps、NameNode和SecondaryNameNode,如下图所示。如果出现了这4个进程表示主节点进程启动成功。

[lyu@master hadoop-2.7.1]$ jps
65877 SecondaryNameNode
69698 Jps
66042 ResourceManager
65669 NameNode
[lyu@master hadoop-2.7.1]$


再看看从节点
[lyu@slave ~]$ jps
73052 DataNode
77455 Jps
73176 NodeManager
[lyu@slave ~]$


在HadoopSlave的终端执行jps命令,在打印结果中会看到3个进程,分别是NodeManager、DataNode和Jps,如下图所示。如果出现了这3个进程表示从节点进程启动成功。

Web UI查看集群是否成功启动

在HadoopMaster上启动Firefox浏览器,在浏览器地址栏中输入输入http://master:50070/,检查 namenode 和 datanode 是否正常。UI页面如下图所示。

在HadoopMaster上启动Firefox浏览器,在浏览器地址栏中输入输入http://master:18088/,检查 Yarn是否正常,页面如下图所示。

运行PI实例检查集群是否成功

进入Hadoop安装主目录,执行下面的命令:

[lyu@master~]$ hadoop jar ~/hadoop-2.7.1/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.1.jar pi 10 10


Job Finished in 27.266 seconds
Estimated value of Pi is 3.20000000000000000000
[lyu@master hadoop-2.7.1]$

~~

成功!!

~~

全部评论

相关推荐

评论
点赞
收藏
分享

创作者周榜

更多
正在热议
更多
# 长得好看会提高面试通过率吗? #
2781次浏览 41人参与
# HR最不可信的一句话是__ #
970次浏览 31人参与
# MiniMax求职进展汇总 #
24758次浏览 321人参与
# 春招至今,你的战绩如何? #
14169次浏览 133人参与
# AI面会问哪些问题? #
859次浏览 21人参与
# 你的实习产出是真实的还是包装的? #
2514次浏览 48人参与
# 巨人网络春招 #
11473次浏览 224人参与
# 沪漂/北漂你觉得哪个更苦? #
1035次浏览 29人参与
# 你做过最难的笔试是哪家公司 #
1053次浏览 18人参与
# AI时代,哪个岗位还有“活路” #
2607次浏览 49人参与
# XX请雇我工作 #
51137次浏览 171人参与
# 军工所铁饭碗 vs 互联网高薪资,你会选谁 #
7931次浏览 43人参与
# 简历第一个项目做什么 #
32025次浏览 357人参与
# 简历中的项目经历要怎么写? #
310831次浏览 4256人参与
# 不考虑薪资和职业,你最想做什么工作呢? #
152767次浏览 888人参与
# 当下环境,你会继续卷互联网,还是看其他行业机会 #
187513次浏览 1123人参与
# AI时代,哪些岗位最容易被淘汰 #
64454次浏览 860人参与
# 如果重来一次你还会读研吗 #
229956次浏览 2011人参与
# 投格力的你,拿到offer了吗? #
178133次浏览 889人参与
# 你怎么看待AI面试 #
180592次浏览 1291人参与
# 正在春招的你,也参与了去年秋招吗? #
364089次浏览 2640人参与
# 腾讯音乐求职进展汇总 #
160802次浏览 1114人参与
牛客网
牛客网在线编程
牛客网题解
牛客企业服务