Hadoop集群搭建過程中相關(guān)環(huán)境配置詳解
本節(jié)向大家介紹一下Hadoop集群搭建的具體步驟,本節(jié)主要內(nèi)容有系統(tǒng)配置和Hadoop文件配置等,相信通過本節(jié)的介紹大家對Hadoop集群搭建有一定的認(rèn)識,讓我們一起來學(xué)習(xí)吧。
下面是Hadoop集群搭建具體介紹。
Hadoop集群搭建
一、Linux系統(tǒng)配置
1、在所有的機(jī)器上都建立相同的目錄,也可以就建立相同的用戶,以該用戶的home路徑來做hadoop的安裝路徑。例如在所有的機(jī)器上都建立了名為fan的用戶:/home/fan。
2、Etc/hosts文件末尾添加IP-主機(jī)映射關(guān)系,例如:
192.168.146.161fan001
192.168.146.162fan002
192.168.146.163fan003
192.168.146.164fan004
二、Hadoop集群搭建時RedHat中jdk的卸載和安裝
(一)jdk1.4卸載
由于redhatEnterprise5中自帶安裝了jdk1.4的,所以在安裝jdk1.6前我把jdk1.4的卸了,步驟如下:
1、打開終端輸入#rpm-qa|grepgcj,其現(xiàn)實(shí)內(nèi)容有:
java-1.4.2-gci-compat.........
java-1.4.2-gcj-compat-devel.....(具體忘了是什么了,反正有兩個java開頭的文件)
2、卸載
#rpm-e--nodepsjava-1.4.2-gci...(利用rpm-e--nodeps命令刪除上面查找的內(nèi)容)此時jdk1.4已被卸了。
(二)jdk1.6安裝
1.從網(wǎng)站上下載jdk1.6包(jdk-6u18-ea-bin-b04-linux-i586-28_oct_2009.bin),放到/usr目錄下。
2.在linux中切換到/usr目錄下,修改jdk1.6的使用權(quán)限:
#chmodu+xjdk-6u18-ea-bin-b04-linux-i586-28_oct_2009.bin
3.解壓并安裝:#./jdk-6u10-linux-i586-rpm.bin(默認(rèn)安裝在/usr/java中)可按ctrl+c跳過提示
4.Hadoop集群搭建中jdk1.6安裝環(huán)境變量配置:
文件目錄:/etc/profile
在該profile文件中添加:
JAVA_HOME=/usr/java/jdk1.6.0_10
JRE_HOME=/usr/java/jdk1.6.0_10/jre
PATH=$PATH:$JAVA_HOME/bin:$JRE_HOME/binCLASSPATH=.:$JAVA_HOME/lib/jt.jar:$JAVA_HOME/lib/tools.jar:$JRE_HOME/lib(注意:前面的.:,linux中的;號為:號)
exportJAVA_HOMEJRE_HOMEPATHCLASSPATH
添加完畢保存退出
#source/etc/profile
#java-version
顯示javaversion"1.6.0_10"(jdk1.6安裝成功)
5、卸載rpm版的jdk:(未使用)
#rpm-qa|grepjdk
顯示:jdk-1.6.0_10-fcs
卸載:#rpm-e--nodepsjdk-1.6.0_10-fcs
三、配置Hadoop
看一下Hadoop集群搭建中關(guān)于Hadoop的配置。首先下載Hadoop,解壓到Master上,放到用戶根目錄下。這里我是下載的0.19.2的版本。此時Hadoop的安裝路徑就是/home/fan/hadoop-0.19.2。然后修改Hadoop配置文件,解壓后進(jìn)入conf目錄,主要需要修改以下文件:hadoop-env.sh,hadoop-site.xml、masters、slaves。
1、修改conf/hadoop-env.sh,添加jdk支持exportJAVA_HOME=/usr/jdk1.6.0_18
2、修改hadoop目錄下的conf/site-site.xml文件。
3、masters增加:
fan001
slaves增加:
fan002
fan003
fan004,本節(jié)關(guān)于Hadoop集群搭建介紹沒有結(jié)束,請繼續(xù)關(guān)注。
【編輯推薦】