自拍偷在线精品自拍偷,亚洲欧美中文日韩v在线观看不卡

專家指導(dǎo) 如何實(shí)現(xiàn)Hadoop集群搭建

開(kāi)發(fā) 架構(gòu) Hadoop
關(guān)于Hadoop集群的概念相信大家應(yīng)該有所了解,這里就向大家介紹一下Hadoop集群搭建的具體步驟,相信通過(guò)本文的介紹大家對(duì)Hadoop集群搭建有跟深刻的了解。

本節(jié)繼續(xù)向大家介紹Hadoop集群搭建的步驟,希望通過(guò)本節(jié)的介紹你對(duì)如何進(jìn)行Hadoop集群搭建有一定的認(rèn)識(shí),歡迎大家一起來(lái)學(xué)習(xí)Hadoop集群搭建搭建方面的知識(shí)。

一、建立Master到每一臺(tái)Slave的SSH受信證書

1、偽分布式免密碼ssh設(shè)置
?現(xiàn)在確認(rèn)能否不輸入口令就用ssh登錄localhost:
$sshlocalhost

如果不輸入口令就無(wú)法用ssh登陸localhost,執(zhí)行下面的命令:
$ssh-keygen-tdsa-P''-f~/.ssh/id_dsa
$cat~/.ssh/id_dsa.pub>>~/.ssh/authorized_keys

?安裝ssh,并生成公鑰和私鑰
?運(yùn)行ssh-keygen-trsa,根據(jù)屏幕提示直接選擇“回車”
?會(huì)在用戶目錄~/.ssh/產(chǎn)生兩個(gè)文件,id_rsa,id_rsa.pub
?cat~/.ssh/id_dsa.pub>>~/.ssh/authorized_keys

2、Hadoop集群搭建的SSH設(shè)置
master:
[fan@fan001~]$ssh-keygen-trsa
[fan@fan001~]$sshfan@fan002"mkdir.ssh;chmod0700.ssh"(重復(fù))
[fan@fan001~]$scp~/.ssh/id_rsa.pubfan@fan002:.ssh/id_rsa.pub(重復(fù))
[fan@fan001~]$cd.ssh
[fan@fan001.ssh]$cpid_rsa.pubauthorized_keys
[fan@fan001.ssh]$chmod600authorized_keys

slave:
[fan@fan002~]$touch.ssh/authorized_keys
[fan@fan002~]$cd.ssh
[fan@fan002.ssh]$catid_rsa.pub>>authorized_keys
[fan@fan001.ssh]$chmod600authorized_keys
OK,完成免密碼ssh設(shè)置

二、啟動(dòng)Hadoop

1、偽分布式的啟動(dòng):
格式化一個(gè)新的分布式文件系統(tǒng):$bin/hadoopnamenode-format
啟動(dòng)Hadoop守護(hù)進(jìn)程:$bin/start-all.sh
Hadoop守護(hù)進(jìn)程的日志寫入到${HADOOP_LOG_DIR}目錄(默認(rèn)是${HADOOP_HOME}/logs).

2、啟動(dòng)Hadoop
Hadoop集群搭建過(guò)程中啟動(dòng)Hadoop集群需要啟動(dòng)HDFS集群和Map/Reduce集群。
Ø格式化一個(gè)新的分布式文件系統(tǒng):$bin/hadoopnamenode-format
Ø在分配的NameNode上,運(yùn)行下面的命令啟動(dòng)HDFS:$bin/start-dfs.sh
bin/start-dfs.sh腳本會(huì)參照NameNode上${HADOOP_CONF_DIR}/slaves文件的內(nèi)容,在所有列出的slave上啟動(dòng)DataNode守護(hù)進(jìn)程。
Ø在分配的JobTracker上,運(yùn)行下面的命令啟動(dòng)Map/Reduce:$bin/start-mapred.sh
bin/start-mapred.sh腳本會(huì)參照J(rèn)obTracker上${HADOOP_CONF_DIR}/slaves文件的內(nèi)容,在所有列出的slave上啟動(dòng)TaskTracker守護(hù)進(jìn)程。

3.停止Hadoop
Ø在分配的NameNode上,執(zhí)行下面的命令停止HDFS:$bin/stop-dfs.sh
bin/stop-dfs.sh腳本會(huì)參照NameNode上${HADOOP_CONF_DIR}/slaves文件的內(nèi)容,在所有列出的slave上停止DataNode守護(hù)進(jìn)程。
Ø在分配的JobTracker上,運(yùn)行下面的命令停止Map/Reduce:$bin/stop-mapred.sh
bin/stop-mapred.sh腳本會(huì)參照J(rèn)obTracker上${HADOOP_CONF_DIR}/slaves文件的內(nèi)容,在所有列出的slave上停止TaskTracker守護(hù)進(jìn)程。本節(jié)關(guān)于Hadoop集群搭建的相關(guān)內(nèi)容介紹完畢。

【編輯推薦】

  1. Hadoop集群搭建過(guò)程中相關(guān)環(huán)境配置詳解
  2. 技術(shù)分享 Hadoop集群搭建方法
  3. 專家講解 Hadoop:HBASE松散數(shù)據(jù)存儲(chǔ)設(shè)計(jì)
  4. 兩種模式運(yùn)行Hadoop分布式并行程序
  5. 專家提醒 部署Hadoop時(shí)應(yīng)該注意具體事項(xiàng)
責(zé)任編輯:佚名 來(lái)源: csdn.net
相關(guān)推薦

2010-06-03 14:42:47

Hadoop分布式集群

2010-05-26 16:17:46

2010-06-04 17:34:13

Hadoop0.20.

2010-06-04 18:17:50

Hadoop集群

2016-10-27 09:37:10

Hadoop集群配置

2011-12-07 16:11:50

Hadoop集群搭建

2010-06-04 16:17:02

2010-07-12 11:36:32

UML活動(dòng)圖

2015-05-27 10:29:41

DockerHadoopHadoop集群

2014-03-17 10:05:45

Hadoop集群

2021-04-19 08:52:58

Hadoop集群搭建Python

2010-09-27 10:54:53

JVM參數(shù)配置

2010-07-01 12:21:35

UML類圖關(guān)系

2010-07-07 13:54:00

UML用例圖

2010-05-20 19:01:03

Eclipse使用SV

2010-06-03 19:02:31

Hadoop集群搭建

2010-06-07 09:14:55

Hadoop集群

2010-06-02 09:45:02

SVN學(xué)習(xí)筆記

2010-07-13 13:15:17

Perl

2010-07-15 09:10:08

Perl函數(shù)手冊(cè)
點(diǎn)贊
收藏

51CTO技術(shù)棧公眾號(hào)