自拍偷在线精品自拍偷,亚洲欧美中文日韩v在线观看不卡

專家推薦 Linux下安裝Hadoop教程新手必備

開發(fā) 架構(gòu) Hadoop
Hadoop相信大家應(yīng)該有所了解了,那么這你是知道它是如何安裝的嗎?本文就向大家簡單介紹一下Linux下安裝Hadoop方法,歡迎大家一起來學(xué)習(xí)。

本節(jié)和大家一起學(xué)習(xí)一下Linux下安裝Hadoop教程,在學(xué)習(xí)Hadoop的過程中,你可能會(huì)遇到Hadoop安裝問題,這里介紹一下Linux下安裝Hadoop方法,希望通過本節(jié)的介紹大家能夠掌握如何安裝Hadoop。

Linux下安裝Hadoop教程

目的:此安裝Hadoop教程旨在引導(dǎo)未接觸Hadoop的新手入門只用,高手請(qǐng)飄過。

環(huán)境:Fedora12
Kernel2.6.31.5-127.fc12.i686.PAE
Hadoop-0.20.2
jdk-6u18-linux-i586
初學(xué)者可以選擇三臺(tái)實(shí)體機(jī)子做實(shí)驗(yàn),一臺(tái)做NameNode,JobTracker,另外兩臺(tái)做DataNode,TaskTracker。
本安裝Hadoop教程里就用的三臺(tái)機(jī)子做演示。
station1192.168.128.11NameNode
station2192.168.128.22DataNode
station3192.168.128.33DataNode

1、Fedora的安裝就不用演示了,裝好后默認(rèn)是啟動(dòng)sshd服務(wù)的。
不確定的話可以手工查一下
[root@station1~]#servicesshdstatus
如果沒有啟動(dòng),可以手工啟動(dòng)
[root@station1~]#servicesshdstart

2、建立ssh無密碼登錄
在NameNode上
[cuijj@station1~]$ssh-keygen-tdsa-P''-f~/.ssh/id_dsa
會(huì)在~/.ssh/生成兩個(gè)文件:id_dsa和id_dsa.pub。這兩個(gè)是成對(duì)出現(xiàn)的。
把id_dsa.pub文件追加到DataNode上的authorized_keys(默認(rèn)是沒有這個(gè)文件的)內(nèi)。
[cuijj@station1~]$scpid_dsa.pubcuijj@192.168.128.22:/home/cuijj/
登錄到192.168.128.22上(另一臺(tái)DataNode一樣)
[cuijj@station1~]$catid_dsa.pub>>~/.ssh/authorized_keys

3、關(guān)閉防火墻
[root@station1~]#serviceiptablesstop

4、安裝jdk1.6(確保幾臺(tái)機(jī)子的java環(huán)境一樣)
到官網(wǎng)http://java.sun.com下載jdk-6u18-linux-i586.bin,下載后,直接安裝。本安裝Hadoop教程的安裝路徑為/home/cuijj/jdk1.6.0_18。安裝后添加如下語句到/ect/profile中:
exportJAVA_HOME=/home/cuijj/jdk1.6.0_18
exportJRE_HOME=/home/cuijj/jdk1.6.0_18/jre
exportCLASSPATH=.:$JAVA_HOME/lib:$JRE_HOME/lib:$CLASSPATH
exportPATH=$JAVA_HOME/bin:$JRE_HOME/bin:$PATH

5、安裝hadoop
到官網(wǎng)下載hadoop-0.20.2.tar.gz
[cuijj@station1~]$tarxzvfhadoop-0.20.2.tar.gz
把Hadoop的安裝路徑添加到/etc/profile中
exportHADOOP_HOME=/home/cuijj/hadoop-0.20.2
exportPATH=$HADOOP_HOME/bin:$PATH
為了讓/etc/profile生效,source一下
[cuijj@station1~]$source/etc/profile

6、配置hadoop
安裝Hadoop教程介紹一下如何配置Hadoop。hadoop的配置文件在/conf目錄下
1)配置Java環(huán)境
[cuijj@station1~]$vimhadoop-0.20.2/conf/hadoop-env.sh
exportJAVA_HOME=/home/cuijj/jdk1.6.0_18
2)配置conf/core-site.xml、conf/hdfs-site.xml、conf/mapred-site.xml文件
[cuijj@station1~]$vimhadoop-0.20.2/conf/core-site.xml
[cuijj@station1~]$vimhadoop-0.20.2/conf/mapred-site.xml
[cuijj@station1~]$vimhadoop-0.20.2/conf/hdfs-site.xml
3)將NameNode上拷貝完整的hadoop到DataNode上
4)配置NameNode上的conf/masters和conf/slaves
masters:
192.168.128.11
slaves:
192.168.128.22
192.168.128.33

7、運(yùn)行hadoop
1)格式化文件系統(tǒng)
[cuijj@station1hadoop-0.20.2]$hadoopnamenode-format
2)啟動(dòng)Hadoop
[cuijj@station1hadoop-0.20.2]$bin/start-all.sh
3)用jps命令查看進(jìn)程,NameNode上的結(jié)果如下:
4)查看集群狀態(tài)
[cuijj@station1hadoop-0.20.2]$hadoopdfsadmin-report
5)用hadoop的web方式查看
[cuijj@station1hadoop-0.20.2]$linkshttp://192.168.128.11:50070

8、運(yùn)行wordcount.java程序
1)先在本地磁盤建立兩個(gè)文件file01和file02
[cuijj@station1~]$echo"Hellocuijjbyecuijj">file01
[cuijj@station1~]$echo"HelloHadoopGoodbyeHadoop">file02
2)在hdfs中建立一個(gè)input目錄
[cuijj@station1~]$hadoopdfs-mkdirinput
3)將file01和file02拷貝到hdfs的input目錄下
[cuijj@station1~]$hadoopdfs-copyFromLocal/home/cuijj/file0*input
4)查看hdfs中有沒有input目錄
[cuijj@station1~]$hadoopdfs-ls
5)查看input目錄下有沒有復(fù)制成功file01和file02
6)執(zhí)行wordcount(確保hdfs上沒有output目錄)
[cuijj@station1hadoop-0.20.2]$hadoopjarhadoop-0.20.2-examples.jarwordcountinputoutput
7)運(yùn)行完成,查看結(jié)果
本安裝Hadoop教程到此結(jié)束,謝謝關(guān)注。

【編輯推薦】

  1. 如何進(jìn)行Hadoop安裝部署?
  2. Hadoop安裝部署簡明步驟詳解
  3. 學(xué)習(xí)筆記 Hadoop是什么?
  4. 深入剖析Hadoop HBase
  5. Hadoop配置指導(dǎo)手冊(cè)

 

責(zé)任編輯:佚名 來源: csdn.net
相關(guān)推薦

2010-06-03 09:48:17

Hadoop安裝

2010-06-01 17:45:45

SVN 基本操作

2010-05-28 19:02:50

TortoiseSVN

2009-06-23 18:36:09

2010-07-27 15:53:15

2011-06-30 17:41:46

SEO

2010-08-03 14:37:30

Flex入門教程

2021-09-01 07:21:41

LinuxHadoop存儲(chǔ)

2010-07-20 16:19:54

Perl

2010-08-11 11:31:49

2019-10-17 17:15:01

Linux解壓文件命令

2010-06-07 15:21:00

hadoop-0.20

2011-01-14 18:03:55

LinuxQQ安裝

2013-08-09 09:37:59

Linux命令命令行

2010-06-29 13:45:50

UML類圖教程

2010-05-21 09:31:09

安裝VNC

2010-08-04 09:51:05

Flex學(xué)習(xí)

2010-07-23 12:23:49

Perl基礎(chǔ)

2009-05-11 15:58:32

Linux軟件卸載

2014-03-10 11:43:45

Linux終端命令
點(diǎn)贊
收藏

51CTO技術(shù)棧公眾號(hào)