自拍偷在线精品自拍偷,亚洲欧美中文日韩v在线观看不卡

深入剖析Hadoop HBase

開發(fā) 架構(gòu) Hadoop
Hadoop相信大家應(yīng)該有所了解,那么Hadoop HBase呢,這里向大家介紹一下Hadoop HBase方面的知識,希望感興趣的朋友們多多關(guān)注。

本節(jié)向大家介紹一下Hadoop HBase方面的知識,主要包括Hadoop HBase簡要介紹和環(huán)境部署兩大部分的內(nèi)容,希望通過本節(jié)的介紹大家對Hadoop HBase有初步的了解。

Hadoop HBase

一.簡要介紹

HadoopHBase是ApacheHadoop項目的一部分,基于HadoopDistributedFileSystem,是一個開源的,基于列存儲模型的分布式數(shù)據(jù)庫。HBase的目標(biāo)是(原文):thehostingofverylargetables--billionsofrowsXmillionsofcolumns--atopclustersofcommodityhardward.

二.環(huán)境部署

Hadoop HBase具體步驟如下:

首先,保證計算機(jī)中安裝了JDK和openSSH
JDK可以從Sun的官方網(wǎng)站上下載--------http://java.sun.com/javase/downloads/index.jsp,
openSSH在Linux系統(tǒng)安裝的時候一般都一起安裝的,如果沒有,可以在googlesearch一下,此處不再贅述。

接下來,保證兩臺計算機(jī)中都有一個統(tǒng)一名稱的用戶hadoop(自己定),本人設(shè)置的情況如下:
/home/hadoop
將Hadoop文件解壓到/home/hadoop/hadoopinstall文件夾下。
新建目錄/home/hadoop/hadoopinstall/hadoopconf,將/home/hadoop/hadoopinstall/hadoop-0.16.4/conf下的
masters
slaves
hadoop-env.sh
hadoop-site.xml
copythefourfilesto/home/hadoop/hadoopinstall/hadoopconfandthen
setHADOOP_CONF_DIRto/home/hadoop/hadoopinstall/hadoopconf
(/etc/profile)
設(shè)置/etc/hostsfile加上
192.168.1.12(本機(jī)IP)hadoop-1hadoop-1
192.168.1.13(另一臺機(jī)器IP)hadoop-2hadoop-2
將hadoop-1作為NamenodeandJobTracker
將hadoop-2作為DatanodeandTaskTracker

Hadoop HBase的SSH設(shè)置

在Hadoop啟動以后,Namenode是通過SSH(SecureShell)來啟動和停止各個節(jié)點上的各種守護(hù)進(jìn)程的,這就需要在節(jié)點之間執(zhí)行指令的時候是不需要輸入密碼的方式,故我們需要配置SSH使用無密碼公鑰認(rèn)證的方式。
首先要保證每臺機(jī)器上都裝了SSH服務(wù)器,且都正常啟動。實際中我們用的都是OpenSSH,這是SSH協(xié)議的一個免費(fèi)開源實現(xiàn)。

首先,在hadoop-1上生成密鑰對:
[hadoop@hadoop:~]#ssh-keygen-trsa
這個命令將為dbrg-1上的用戶dbrg生成其密鑰對,詢問其保存路徑時直接回車采用默認(rèn)路徑,當(dāng)提示要為生成的密鑰輸入passphrase的時候,直接回車,也就是將其設(shè)定為空密碼。生成的密鑰對id_rsa,id_rsa.pub,默認(rèn)存儲在/home/hadoop/.ssh目錄下。然后將id_rsa.pub的內(nèi)容復(fù)制到每個機(jī)器(也包括本機(jī))的/home/hadoop/.ssh/authorized_keys文件中,如果機(jī)器上已經(jīng)有authorized_keys這個文件了,就在文件末尾加上id_rsa.pub中的內(nèi)容,如果沒有authorized_keys這個文件,直接cp或者scp就好了,下面的操作假設(shè)各個機(jī)器上都沒有authorized_keys文件。

對于hadoop-1
[hadoop@hadoop-1:~/.ssh]$cpid_rsa.pubauthorized_keys

對于hadoop-2
[hadoop@hadoop-2:~]$mkdir.ssh
[hadoop@hadoop-1:~/.ssh]$scpauthorized_keyshadoop-2:/home/hadoop/.ssh/

此處的scp就是通過ssh進(jìn)行遠(yuǎn)程copy,此處需要輸入遠(yuǎn)程主機(jī)的密碼,即hadoop-2機(jī)器上hadoop帳戶的密碼,當(dāng)然,你也可以用其他方法將authorized_keys文件拷貝到其他機(jī)器上
[hadoop@hadoop-2:.ssh]$chmod644authorized_keys
這一步非常關(guān)鍵,必須保證authorized_keys只對其所有者有讀寫權(quán)限,其他人不允許有寫的權(quán)限,否則SSH是不會工作的。
接著,在三臺機(jī)器上都需要對sshd服務(wù)進(jìn)行配置,在三臺機(jī)器上修改文件/etc/ssh/sshd_config
#去除密碼認(rèn)證
PasswordAuthenticationno
AuthorizedKeyFile.ssh/authorized_keys
至此各個機(jī)器上的SSH配置已經(jīng)完成。


Hadoop HBase的Hadoop環(huán)境變量

hadoop_env.sh中設(shè)置Hadoop需要的環(huán)境變量,其中JAVA_HOME是必須設(shè)定的變量。HADOOP_HOME變量可以設(shè)定也可以不設(shè)定,如果不設(shè)定,HADOOP_HOME默認(rèn)的是bin目錄的父目錄。
本人的設(shè)置如下:
exportHADOOP_HOME=/home/hadoop/hadoopinstall/hadoop-0.16.4
exportJAVA_HOME=/usr/java/jdk1.6.0

Hadoop HBase的Hadoop配置文件

如前所述,在/home/hadoop/hadoopconf目錄下,打開slaves文件,該文件用來指定所有的從節(jié)點,一行指定一個主機(jī)名。即本文中的hadoop-2,因此slaves文件看起來應(yīng)該是這樣的
hadoop-2
在conf/目錄中的hadoop-default.xml中包含了Hadoop的所有配置項,但是不允許直接修改!可以在hadoop-conf/目錄下的hadoop-site.xml里面定義我們需要的項,其值會覆蓋hadoop-default.xml中的默認(rèn)值??梢愿鶕?jù)自己的實際需要來進(jìn)行定制。

啟動hadoop

在bin/下面有很多啟動腳本,可以根據(jù)自己的需要來啟動。
*start-all.sh啟動所有的Hadoop守護(hù)。包括namenode,datanode,jobtracker,tasktrack
*stop-all.sh停止所有的Hadoop
*start-mapred.sh啟動Map/Reduce守護(hù)。包括Jobtracker和Tasktrack
*stop-mapred.sh停止Map/Reduce守護(hù)
*start-dfs.sh啟動HadoopDFS守護(hù).Namenode和Datanode
*stop-dfs.sh停止DFS守護(hù)。本節(jié)有關(guān)Hadoop HBase的內(nèi)容就介紹到這里。

【編輯推薦】

  1. Hadoop起源及其四大特性詳解
  2. Hadoop開源已經(jīng)實現(xiàn)
  3. Hadoop集群與Hadoop性能優(yōu)化
  4. Hadoop 從Yahoo向Google的技術(shù)轉(zhuǎn)折
  5. Yahoo公布Hadoop的源代碼
責(zé)任編輯:佚名 來源: csdn.net
相關(guān)推薦

2010-06-03 11:23:19

Hadoop

2010-06-04 18:29:02

Hadoop單機(jī)模式

2009-07-06 10:44:45

JSP charset

2009-09-27 17:13:36

Hibernate V

2011-06-03 13:48:18

JavaScript重構(gòu)

2010-05-25 12:59:00

Subversion

2009-09-14 15:12:40

LINQ to XML

2020-04-01 10:28:12

Apache HBas數(shù)據(jù)結(jié)構(gòu)算法

2010-08-04 13:52:53

Flex事件機(jī)制

2010-05-27 12:58:07

SVN升級

2009-09-25 09:36:55

Hibernate核心

2010-05-27 10:23:01

SVN文檔

2010-06-30 16:00:01

FTP協(xié)議

2010-06-12 14:35:46

UML對象圖

2009-09-28 14:54:33

Hibernate映射

2010-06-17 14:35:03

設(shè)計模式 UML

2011-07-11 17:38:42

JAVA

2010-07-07 10:23:31

UML建模

2010-01-26 17:53:30

Android代碼結(jié)構(gòu)

2010-06-07 14:55:32

nutch+hadoo
點贊
收藏

51CTO技術(shù)棧公眾號