自拍偷在线精品自拍偷,亚洲欧美中文日韩v在线观看不卡

Hadoop機(jī)架感知及啟動停止方法詳解

開發(fā) 架構(gòu) Hadoop
Hadoop相信大家應(yīng)該有所了解,那么Hadoop的機(jī)架感知你知道嗎,這里就向大家介紹一下Hadoop的機(jī)架感知以及如何啟動和停止Hadoop方面的內(nèi)容。

在學(xué)習(xí)Hadoop的過程中,你可能會遇到Hadoop的機(jī)架感知方面的問題,本節(jié)就向大家介紹一下Hadoop的機(jī)架感知方面的知識以及Hadoop的啟動和停止的方法,歡迎大家一起來學(xué)習(xí)。下面是具體講解。

Hadoop的機(jī)架感知

HDFS和Map/Reduce的組件是能夠感知機(jī)架的。

NameNode和JobTracker通過調(diào)用管理員配置模塊中的APIresolve來獲取集群里每個slave的機(jī)架id。該API將slave的DNS名稱(或者IP地址)轉(zhuǎn)換成機(jī)架id。使用哪個模塊是通過配置項

topology.node.switch.mapping.impl來指定的。模塊的默認(rèn)實現(xiàn)會調(diào)用topology.script.file.name配置項指定的一個的腳本/命令。如果topology.script.file.name未被設(shè)置,對于所有傳入的IP地址

,模塊會返回/default-rack作為機(jī)架id。在Map/Reduce部分還有一個額外的配置項mapred.cache.task.levels,該參數(shù)決定cache的級數(shù)(在網(wǎng)絡(luò)拓?fù)渲校?。例如,如果默認(rèn)值是2,會建立兩級的cache-一級針對主機(jī)(主機(jī)->任務(wù)的映射)另一級針對機(jī)架(機(jī)架->任務(wù)的映射)。

啟動Hadoop

啟動Hadoop集群需要啟動HDFS集群和Map/Reduce集群。

格式化一個新的分布式文件系統(tǒng):
$bin/hadoopnamenode-format

在分配的NameNode上,運(yùn)行下面的命令啟動HDFS:
$bin/start-dfs.sh

bin/start-dfs.sh腳本會參照NameNode上${HADOOP_CONF_DIR}/slaves文件的內(nèi)容,在所有列出的slave上啟動DataNode守護(hù)進(jìn)程。

在分配的JobTracker上,運(yùn)行下面的命令啟動Map/Reduce:
$bin/start-mapred.sh

bin/start-mapred.sh腳本會參照J(rèn)obTracker上${HADOOP_CONF_DIR}/slaves文件的內(nèi)容,在所有列出的slave上啟動TaskTracker守護(hù)進(jìn)程。

停止Hadoop

在分配的NameNode上,執(zhí)行下面的命令停止HDFS:
$bin/stop-dfs.sh

bin/stop-dfs.sh腳本會參照NameNode上${HADOOP_CONF_DIR}/slaves文件的內(nèi)容,在所有列出的slave上停止DataNode守護(hù)進(jìn)程。

在分配的JobTracker上,運(yùn)行下面的命令停止Map/Reduce:
$bin/stop-mapred.sh


bin/stop-mapred.sh腳本會參照J(rèn)obTracker上${HADOOP_CONF_DIR}/slaves文件的內(nèi)容,在所有列出的slave上停止TaskTracker守護(hù)進(jìn)程。

【編輯推薦】

  1. 技術(shù)分享 Hadoop集群搭建方法
  2. 實例講解Hadoop用法
  3. Hadoop集群與Hadoop性能優(yōu)化
  4. HadoopHBase實現(xiàn)配置簡單的單機(jī)環(huán)境
  5. Hadoop命令大全

 

 

責(zé)任編輯:佚名 來源: csdn.net
相關(guān)推薦

2010-06-03 15:39:47

Hadoop配置

2010-06-07 09:14:55

Hadoop集群

2009-06-11 09:42:57

netbeans啟動參數(shù)

2010-10-19 09:45:23

SQL Server命

2010-11-10 10:59:52

Sql Server服

2010-06-07 09:26:32

Hadoop集群

2010-06-03 17:38:03

Hadoop命令

2010-05-24 14:59:29

Hadoop集群

2011-03-21 10:19:35

啟動停止Nagios

2010-01-28 13:43:48

Android啟動Ja

2020-10-14 10:25:20

深度學(xué)習(xí)機(jī)器學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)

2010-05-26 18:32:07

SVN庫

2011-03-03 16:18:29

VSFTPD啟動停止

2010-09-29 14:56:42

啟動DHCP服務(wù)

2010-08-12 09:30:08

Flex內(nèi)存泄露

2021-09-29 06:03:37

JavaScriptreduce() 前端

2009-08-28 16:01:20

C#啟動停止SQL數(shù)據(jù)

2020-07-30 12:50:06

RFID感知應(yīng)用

2023-07-03 15:55:05

語法jpa狀態(tài)

2014-08-06 09:57:15

hadoop ShelShell命令
點贊
收藏

51CTO技術(shù)棧公眾號