這篇文章將為大家詳細(xì)講解有關(guān)Hadoop分布式集群如何搭建，小編覺(jué)得挺實(shí)用的，因此分享給大家做個(gè)參考，希望大家閱讀完這篇文章后可以有所收獲。

創(chuàng)新互聯(lián)公司堅(jiān)持“要么做到，要么別承諾”的工作理念，服務(wù)領(lǐng)域包括：成都網(wǎng)站建設(shè)、網(wǎng)站建設(shè)、企業(yè)官網(wǎng)、英文網(wǎng)站、手機(jī)端網(wǎng)站、網(wǎng)站推廣等服務(wù)，滿足客戶于互聯(lián)網(wǎng)時(shí)代的左云網(wǎng)站設(shè)計(jì)、移動(dòng)媒體設(shè)計(jì)的需求，幫助企業(yè)找到有效的互聯(lián)網(wǎng)解決方案。努力成為您成熟可靠的網(wǎng)絡(luò)建設(shè)合作伙伴！

Hadoop分布式集群環(huán)境搭建步驟如下

實(shí)驗(yàn)環(huán)境：
系統(tǒng)：win7
內(nèi)存：8G(因要開(kāi)虛擬機(jī)，內(nèi)存建議不低于8G)
硬盤(pán)：建議固態(tài)
虛擬機(jī)：VMware 12
Linux：Centos 7
jdk1.7.0_67
hadoop-2.5.0.tar.gz

1.安裝VMware虛擬機(jī)環(huán)境
2.安裝Centos操作系統(tǒng)
3.修改主機(jī)名配置網(wǎng)絡(luò)
4.配置ssh無(wú)密碼登錄
5.上傳jdk配置環(huán)境變量
6.上傳hadoop配置環(huán)境變量
7.修改hadoop配置文件
8.格式化namenode
9.啟動(dòng)hadoop并測(cè)試
1安裝VMware虛擬機(jī)環(huán)境
這一步很簡(jiǎn)單，直接下載安裝包下一步，安裝成功之后打開(kāi)輸入注冊(cè)碼

5A02H-AU243-TZJ49-GTC7K-3C61N
GA1T2-4JF1P-4819Y-GDWEZ-XYAY8
FY1M8-6LG0H-080KP-YDPXT-NVRV2
ZA3R8-0QD0M-489GP-Y5PNX-PL2A6
FZ5XR-A3X16-H819Q-RFNNX-XG2EA
ZU5NU-2XWD2-0806Z-WMP5G-NUHV6
VC58A-42Z8H-488ZP-8FXZX-YGRW8

2安裝Centos操作系統(tǒng)
我這里安裝了3臺(tái)Linux，一臺(tái)作為namenode，兩臺(tái)作為datanode，使用的是Centos7 64位，建議使用Centos，原因很簡(jiǎn)單，免費(fèi)開(kāi)源，屬于重量級(jí)Linux,更接近生產(chǎn)環(huán)境，當(dāng)然用其它版本也是可以的。
下載地址：http://isoredirect.centos.org/centos/7/isos/x86_64/CentOS-7-x86_64-DVD-1611.iso
安裝過(guò)程很簡(jiǎn)單這里就不詳述了。
還是要推薦下我自己創(chuàng)建的大數(shù)據(jù)學(xué)習(xí)交流Qun: 710219868 有大佬有資料， 進(jìn)Qun聊邀請(qǐng)碼填寫(xiě) 南風(fēng)（必填 ）
有學(xué)習(xí)路線的分享公開(kāi)課，聽(tīng)完之后就知道怎么學(xué)大數(shù)據(jù)了
3.修改主機(jī)名配置網(wǎng)絡(luò)
namenode:master
datanode:slave1 slave2

執(zhí)行以下命令
vi /etc/hostname
將localhost改為master
另外兩臺(tái)分別改為slave1和slave2
接著執(zhí)行以下命令
vi /etc/hosts
將三臺(tái)linux的ip和主機(jī)名加進(jìn)去
192.168.149.138 master
192.168.149.139 slave1
192.168.149.140 slave2
以上地址根據(jù)自己主機(jī)填寫(xiě)

4配置ssh無(wú)密碼登錄
在master上執(zhí)行以下命令

ssh-keygen
上一步執(zhí)行完之后將會(huì)生成公鑰和私鑰
cd ~/.ssh
在.ssh目錄執(zhí)行l(wèi)l命令會(huì)看到id_rsa和id-rsa.pub兩個(gè)文件，第一個(gè)是私鑰，第二個(gè)是公鑰
然后執(zhí)行
ssh-copy-id -i /root/.ssh/id_rsa.pub root@192.168.149.139
ssh-copy-id -i /root/.ssh/id_rsa.pub root@192.168.149.140
這樣就把公鑰拷到了另外兩臺(tái)linux上
然后測(cè)試是否成功
ssh 192.168.149.139
如果不要密碼則配置成功

5 上傳jdk配置環(huán)境變量
將jdk上傳至centos

執(zhí)行以下命令
tar -zxvf jdk1.7.0_67
vi /etc/profile
將Java環(huán)境變量配置好之后
source /etc/profile 讓配置生效
查看是否配好
java -version

6上傳hadoop配置環(huán)境變量
將hadoop安裝包上傳至centos

執(zhí)行以下命令
tar -zxvf hadoop-2.5.0.tar.gz
mv hadoop-2.5.0.tar.gz hadoop 重命名
配置hadoop環(huán)境變量同Java。PATH路徑分別為bin和sbin
查看是否成功
hadoop version

7修改hadoop配置文件
需要修改的文件有 hadoop-env.sh core-site.xml hdfs-site.xml mapred-site.xml
yarn-site.xml

hadoop-env.sh

將JAVA_HOME路徑添加進(jìn)去

core-site.xml

 
 
fs.default.name  
hdfs://master:9000  
 
 
hadoop.tmp.dir  
/usr/local/hadoop/tmp  
 
 
1
2
3
4
5
6
7
8
9
10
hdfs-site.xml

 

dfs.replication  
1  
   
 
1
2
3
4
5
6
mapred-site.xml

 
                                                                   
　　　　　　mapreduce.framework.name  
yarn  
 
 
1
2
3
4
5
6
yarn-site.xml

 
 
yarn.resourcemanager.hostname  
master  

 
yarn.nodemanager.aux-services  
mapreduce_shuffle  
 

1
2
3
4
5
6
7
8
9
10
注意：配置完成后別忘了把master上的hadoop拷貝到slave1和slave2上，使用命令：scp -r /usr/local/haoop slave1:/usr/local/

8格式化namenode
執(zhí)行以下命令
hadoop namenode -format
start-dfs.sh
start-yarn.sh

9啟動(dòng)hadoop并測(cè)試
master上執(zhí)行以下命令測(cè)試

jps
如結(jié)果如下則表示搭建成功
ResourceManager
Jps
NameNode
NodeManager
SecondaryNameNode
slave1和slave2上執(zhí)行以下命令測(cè)試
jps
NodeManager
DataNode
Jps

關(guān)于“Hadoop分布式集群如何搭建”這篇文章就分享到這里了，希望以上內(nèi)容可以對(duì)大家有一定的幫助，使各位可以學(xué)到更多知識(shí)，如果覺(jué)得文章不錯(cuò)，請(qǐng)把它分享出去讓更多的人看到。