這篇文章主要講解了“hadoop分布式集群的搭建過程”，文中的講解內容簡單清晰，易于學習與理解，下面請大家跟著小編的思路慢慢深入，一起來研究和學習“hadoop分布式集群的搭建過程”吧！

hadoop分布式集群搭建：

1. 集群規劃：

2.具體步驟：

（1）上傳安裝包，并解壓到相關目錄：

[hadoop@hadoop01 home]$ put c:/hadoop-2.6.5-centos-6.7.tar.gz
[hadoop@hadoop01 home]$tar -zxvf hadoop-2.6.5-centos-6.7.tar.gz -C /home/hadoop/apps

（2）修改配置文件：

[hadoop@hadoop01 home]$ cd /home/hadoop/apps/hadoop-2.6.5/hadoop/etc
這里需要修改6個配置文件：
hadoop-env.sh：
加入：export JAVA_HOME=/usr/java/jdk1.8.0_73

core-site.xml：

 fs.defaultFS
 hdfs://hadoop01:9000


 hadoop.tmp.dir
 /home/hadoop/hadoopdata

hdfs-site.xml：

 dfs.namenode.name.dir
 /home/hadoop/hadoopdata/name
為了保證元數據的安全一般配置多個不同目錄


 dfs.datanode.data.dir
 /home/hadoop/hadoopdata/data
datanode 的數據存儲目錄


dfs.replication
 2
HDFS 的數據塊的副本存儲個數


 dfs.secondary.http.address
 hadoop02:50090
secondarynamenode 運行節點的信息，和 namenode 不同節點

mapred-site.xml：

 mapreduce.framework.name
 yarn

yarn-site.xml：

 yarn.resourcemanager.hostname
 hadoop03


 yarn.nodemanager.aux-services
 mapreduce_shuffle
YARN 集群為 MapReduce 程序提供的 shuffle 服務

slaves：

 hadoop01
 hadoop02
 hadoop03

（3）分發安裝包到各個節點，Hadoop 集群的每個節點都需要安裝 Hadoop 安裝包：

[hadoop@hadoop01 etc]$scp -r hadoop-2.6.5 hadoop02:$PWD
[hadoop@hadoop01 etc]$scp -r hadoop-2.6.5 hadoop03:$PWD

（4）配置hadoop的環境變量

[hadoop@hadoop01 etc]$sudo vim /etc/profile:
加入：
export HADOOP_HOME=/home/hadoop/apps/hadoop-2.6.5/
export  PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
[hadoop@hadoop01 etc]$source /etc/profile

（5）在 HDFS 主節點上執行命令進行初始化 namenode

[hadoop@hadoop01 etc]$hadoop namenode -format

（6）在 HDFS 上的主節點啟動 HDFS

[hadoop@hadoop01 etc]$start-dfs.sh

（7）在 HDFS 上的主節點啟動 YARN

[hadoop@hadoop01 etc]$sbin/start-yarn.sh

補充：
hdfs的web界面是： http://hadoop01:50070
yarn的web界面是： http://hadoop03:8088
查看集群的狀態：hdfs dfsadmin -report
1、啟動 namenode 或者 datenode
sbin/hadoop-daemon.sh start datanode
sbin/hadoop-daemon.sh start namenode
sbin/hadoop-daemon.sh start secondarynamenode
2、啟動 yarn nodemanager
sbin/yarn-daemon.sh start nodemanager
sbin/yarn-daemon.sh start resourcemanager

感謝各位的閱讀，以上就是“hadoop分布式集群的搭建過程”的內容了，經過本文的學習后，相信大家對hadoop分布式集群的搭建過程這一問題有了更深刻的體會，具體使用情況還需要大家實踐驗證。這里是創新互聯，小編將為大家推送更多相關知識點的文章，歡迎關注！

另外有需要云服務器可以了解下創新互聯scvps.cn，海內外云服務器15元起步，三天無理由+7*72小時售后在線，公司持有idc許可證，提供“云服務器、裸金屬服務器、高防服務器、香港服務器、美國服務器、虛擬主機、免備案服務器”等云主機租用服務以及企業上云的綜合解決方案，具有“安全穩定、簡單易用、服務可用性高、性價比高”等特點與優勢，專為企業上云打造定制，能夠滿足用戶豐富、多元化的應用場景需求。