Hadoop配置和啟動Hadoop方法詳解
本節(jié)和大家學(xué)習(xí)一下如何進(jìn)行Hadoop配置與啟動Hadoop方面的知識,相信通過本節(jié)的介紹大家對Hadoop配置和啟動Hadoop方法有一定的認(rèn)識,希望本節(jié)的介紹對你的學(xué)習(xí)有所幫助。
Hadoop配置與啟動Hadoop
Hadoop三種模式:
StandaloneOperation:只有一個Java虛擬機(jī)在跑,完全沒有分布式的成分。
Pseudo-DistributedOperation:在同一臺機(jī)器上啟動獨(dú)立數(shù)個JVM進(jìn)程,進(jìn)行“分布式”操作。
Fully-DistributedOperation:真正的可以運(yùn)行于多臺機(jī)器上的分布式模式。(我們按這種方式進(jìn)行配置)
環(huán)境:
***臺:win7+cygwin
第二臺:虛擬機(jī)CentOS.5.3
實(shí)現(xiàn)目標(biāo):
cygwin作為master,部署上NameNode+JobTracker,IP:192.168.220.1
CentOS作為slaver,部署上DataNode+TaskTracker,IP:192.168.14.128
Hadoop配置準(zhǔn)備工作:
1.免密碼SSH登錄,cygwin=》CentOS,見:http://efeil.blog.163.com/blog/static/1189022972010210544494/
2.兩個系統(tǒng)Hosts配置相同,為:192.168.220.1hadoop-master
192.168.14.128hadoophadoop-slave01
3.Hadoop配置中conf/core-site.xml配置
<configuration>
<!---globalproperties-->
<property>
<name>hadoop.tmp.dir</name>
<!--這是Cygwin下配置,CentOS下為/tmp/hdfs-gaoyanfei-->
<value>e:/tmp/hdfs-gaoyanfei</value>
<description>Abaseforothertemporarydirectories.</description>
</property>
<!--filesystemproperties-->
<property>
<name>fs.default.name</name>
<value>hdfs://hadoop-master:9000</value>
</property>
</configuration>
4.Hadoop配置中conf/hdfs-site.xml配置:
<?xmlversion="1.0"?>
<?xml-stylesheettype="text/xsl"href="configuration.xsl"?>
<!--Putsite-specificpropertyoverridesinthisfile.-->
<configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
</configuration>
5.Hadoop配置中conf/mapred-site.xml配置:
<?xmlversion="1.0"?>
<?xml-stylesheettype="text/xsl"href="configuration.xsl"?>
<!--Putsite-specificpropertyoverridesinthisfile.-->
<configuration>
<property>
<name>mapred.job.tracker</name>
<value>hadoop-master:9001</value>
</property>
</configuration>
6.masters配置內(nèi)容:hadoop-master
7.slaves配置內(nèi)容:hadoop-slave01
8.在Cygwin下啟動:
1.bin/hadoopnamenode-format
2.bin/start-all.sh。本節(jié)關(guān)于Hadoop配置與啟動Hadoop介紹到這里
【編輯推薦】
- 輕松實(shí)現(xiàn)Hadoop Hdfs配置
- 專家指導(dǎo) 如何進(jìn)行Hadoop分布式集群配置
- Hadoop配置指導(dǎo)手冊
- HadoopHBase實(shí)現(xiàn)配置簡單的單機(jī)環(huán)境
- 深入剖析Hadoop HBase