自拍偷在线精品自拍偷,亚洲欧美中文日韩v在线观看不卡

Hadoop偽分布模式安裝如何實現(xiàn)?

開發(fā) 架構(gòu) Hadoop
Hadoop安裝可用的模式有三中,這里就向大家介紹一下問分布模式安裝Hadoop,希望感興趣的朋友們一起來關(guān)注,相信本文的介紹一定會讓你有所收獲的。

本節(jié)和大家一起學(xué)習(xí)一下Hadoop偽分布安裝模式,上節(jié)我們介紹了Hadoop本地模式的安裝,通過本節(jié)介紹大家可以做一下對比,看一下那種模式安裝適合你,歡迎大家一起來學(xué)習(xí)Hadoop偽分布安裝。為了便于大家理解,先看一下Hadoop的概念。

Hadoop偽分布安裝模式  

Hadoop概念
   一個分布式系統(tǒng)基礎(chǔ)架構(gòu),由Apache基金會開發(fā)。用戶可以在不了解分布式底層細節(jié)的情況下,開發(fā)分布式程序。充分利用集群的威力高速運算和存儲。
  簡單地說來,Hadoop是一個可以更容易開發(fā)和運行處理大規(guī)模數(shù)據(jù)的軟件平臺。
  Hadoop實現(xiàn)了一個分布式文件系統(tǒng)(HadoopDistributedFileSystem),簡稱HDFS。HDFS有著高容錯性(fault-tolerent)的特點,并且設(shè)計用來部署在低廉的(low-cost)硬件上。而且它提供高傳輸率(highthroughput)來訪問應(yīng)用程序的數(shù)據(jù),適合那些有著超大數(shù)據(jù)集(largedataset)的應(yīng)用程序。HDFS放寬了(relax)POSIX的要求(requirements)這樣可以流的形式訪問(streamingaccess)文件系統(tǒng)中的數(shù)據(jù)。下面就hadoop0.20.1為藍本,介紹在UbuntuLinux9.10下hadoop偽分布安裝的方法。

支持的平臺:
  Linux,可作為開發(fā)和產(chǎn)品部署的平臺;
  Windows,可作為開發(fā)平臺。

事先需要的軟件:
  1.JavaTM1.6.x,必須安裝,建議選擇Sun公司發(fā)行的Java版本;
  2.ssh必須安裝,并保證sshd運行,hadoop將以ssh進行通訊;
  3.如果是windows,則需要裝Cygwin,用以支持shell命令。

安裝可用的模式:
  1.本地模式;
  2.偽分布模式;
  3.全分布模式。

Hadoop偽分布模式安裝步驟:

  1.將hadoop安裝包解壓縮到某目錄下;
  2.修改conf/hadoop-env.sh文件,exportJAVA_HOME=那行設(shè)置正確的JAVA_HOME位置
  3.修改conf/core-site.xml,改為:
 

  1. viewplaincopytoclipboardprint?  
  2. <configuration> 
  3. <property> 
  4. <name>fs.default.name</name> 
  5. <value>hdfs://localhost:9000</value> 
  6. </property> 
  7. </configuration> 
  8. <configuration> 
  9. <property> 
  10. <name>fs.default.name</name> 
  11. <value>hdfs://localhost:9000</value> 
  12. </property> 
  13. </configuration> 

  4.修改conf/hdfs-site.xml,改為:
 

  1. viewplaincopytoclipboardprint?  
  2. <configuration> 
  3. <property> 
  4. <name>dfs.replication</name> 
  5. <value>1</value> 
  6. </property> 
  7. </configuration> 
  8. <configuration> 
  9. <property> 
  10. <name>dfs.replication</name> 
  11. <value>1</value> 
  12. </property> 
  13. </configuration> 

  5.修改conf/mapred-site.xml,改為:
 

  1. viewplaincopytoclipboardprint?  
  2. <configuration> 
  3. <property> 
  4. <name>mapred.job.tracker</name> 
  5. <value>localhost:9001</value> 
  6. </property> 
  7. </configuration> 
  8. <configuration> 
  9. <property> 
  10. <name>mapred.job.tracker</name> 
  11. <value>localhost:9001</value> 
  12. </property> 
  13. </configuration> 

  
6.設(shè)置本機ssh本機無密碼
   先測試一下,輸入命令sshlocalhost,如果提示密碼,則需要進行以下操作:
     $ssh-keygen-tdsa-P''-f~/.ssh/id_dsa
     $cat~/.ssh/id_dsa.pub>>~/.ssh/authorized_keys
  
7.格式化namenode:
     $bin/hadoopnamenode-format
  
8.啟動Hadoop:
     $bin/start-all.sh
  至此,hadoop偽分布模式安裝完畢!

【編輯推薦】

  1. Hadoop應(yīng)用介紹之Hadoop安裝環(huán)境配置
  2. Hadoop安裝與使用如何進行?
  3. 專家講解 Hadoop:HBASE松散數(shù)據(jù)存儲設(shè)計
  4. 兩種模式運行Hadoop分布式并行程序
  5. Hadoop應(yīng)用之Hadoop安裝篇
責(zé)任編輯:佚名 來源: csdn.net
相關(guān)推薦

2010-06-04 15:59:45

Hadoop完全分布模

2010-06-04 15:27:17

Hadoop本地

2017-10-25 18:25:40

Hadoop偽分布式環(huán)境部署

2014-09-04 09:35:17

2010-06-07 16:45:49

Hadoop0.20.

2010-06-04 18:29:02

Hadoop單機模式

2013-06-13 10:39:54

Hadoop2.0.4

2010-06-03 19:46:44

Hadoop

2020-04-28 12:18:08

Seata模式分布式

2017-08-10 10:17:32

Hadoop分布式搭建

2021-09-01 07:21:41

LinuxHadoop存儲

2010-06-03 11:01:32

Hadoop安裝部署

2012-05-21 10:19:31

Hadoop

2011-09-28 11:22:52

Hadoop

2012-05-21 16:28:29

LinuxHadoop

2010-06-03 19:28:02

Hadoop

2010-06-04 16:17:02

2011-12-22 09:21:04

云計算Hadoop大數(shù)據(jù)

2013-05-09 15:39:30

Hadoop集群分布式

2013-06-08 14:34:42

Hadoop 2.0
點贊
收藏

51CTO技術(shù)棧公眾號