自拍偷在线精品自拍偷,亚洲欧美中文日韩v在线观看不卡

Ubuntu 12.04搭建hadoop單機(jī)版環(huán)境

運(yùn)維 系統(tǒng)運(yùn)維 Hadoop
在11月初的時(shí)候,我們了解了Ubuntu 12.04 搭建 hadoop 集群版環(huán)境的方法,今天再來(lái)看看在單機(jī)版環(huán)境中,Ubuntu12.04搭建hadoop是如何實(shí)現(xiàn)的。

在11月初的時(shí)候,我們了解了Ubuntu 12.04 搭建 hadoop 集群版環(huán)境的方法,今天再來(lái)看看在單機(jī)版環(huán)境中,Ubuntu12.04搭建hadoop是如何實(shí)現(xiàn)的。

  一. 你要安裝Ubuntu這一步省略;

  二. 在Ubuntu下創(chuàng)建hadoop用戶組和用戶;

  1. 創(chuàng)建hadoop用戶組:

 sudo addgroup hadoop

   如圖:

  2. 創(chuàng)建hadoop用戶:

 sudo adduser -ingroup hadoop hadoop

  如圖:

  3. 給hadoop用戶添加權(quán)限,打開/etc/sudoers文件:

 sudo gedit /etc/sudoers

  按回車鍵后就會(huì)打開/etc/sudoers文件了,給hadoop用戶賦予root用戶同樣的權(quán)限。

  在root   ALL=(ALL:ALL)   ALL下添加hadoop   ALL=(ALL:ALL)  ALL,

 hadoop  ALL=(ALL:ALL) ALL

  如圖:

  三. 在Ubuntu下安裝JDK

  使用如下命令執(zhí)行即可:

 sudo apt-get install openjdk-6-jre

  如圖:

  四. 修改機(jī)器名

  每當(dāng)ubuntu安裝成功時(shí),我們的機(jī)器名都默認(rèn)為:ubuntu ,但為了以后集群中能夠容易分辨各臺(tái)服務(wù)器,需要給每臺(tái)機(jī)器取個(gè)不同的名字。機(jī)器名由 /etc/hostname文件決定。

  1. 打開/etc/hostname文件:

 sudo gedit /etc/hostname

  2. 將/etc/hostname文件中的ubuntu改為你想取的機(jī)器名。這里我取"dubin-ubuntu"。 重啟系統(tǒng)后才會(huì)生效。

  五. 安裝ssh服務(wù)

  這里的ssh和三大框架:spring,struts,hibernate沒有什么關(guān)系,ssh可以實(shí)現(xiàn)遠(yuǎn)程登錄和管理,具體可以參考其他相關(guān)資料。

  安裝openssh-server,

 sudo apt-get install ssh openssh-server

  這時(shí)假設(shè)您已經(jīng)安裝好了ssh,您就可以進(jìn)行第六步了哦~

  六、 建立ssh無(wú)密碼登錄本機(jī)

  首先要轉(zhuǎn)換成hadoop用戶,執(zhí)行以下命令:

 su - hadoop

  如圖:

  ssh生成密鑰有rsa和dsa兩種生成方式,默認(rèn)情況下采用rsa方式。

  1. 創(chuàng)建ssh-key,,這里我們采用rsa方式:

 ssh-keygen -t rsa -P ""

  如圖:

  (注:回車后會(huì)在~/.ssh/下生成兩個(gè)文件:id_rsa和id_rsa.pub這兩個(gè)文件是成對(duì)出現(xiàn)的)

  2. 進(jìn)入~/.ssh/目錄下,將id_rsa.pub追加到authorized_keys授權(quán)文件中,開始是沒有authorized_keys文件的:

 cd ~/.ssh
cat id_rsa.pub >> authorized_keys

  如圖:

  (完成后就可以無(wú)密碼登錄本機(jī)了。)

  3. 登錄localhost:

 ssh localhost

  如圖:

  ( 注:當(dāng)ssh遠(yuǎn)程登錄到其它機(jī)器后,現(xiàn)在你控制的是遠(yuǎn)程的機(jī)器,需要執(zhí)行退出命令才能重新控制本地主機(jī)。)

  4. 執(zhí)行退出命令:

 exit

  七. 安裝hadoop

  我們采用的hadoop版本是:hadoop-0.20.203(http://www.apache.org/dyn/closer.cgi/hadoop/common/  ),因?yàn)樵摪姹颈容^穩(wěn)定。

  1. 假設(shè)hadoop-0.20.203.tar.gz在桌面,將它復(fù)制到安裝目錄 /usr/local/下:

 sudo cp hadoop-0.20.203.0rc1.tar.gz /usr/local/

  2. 解壓hadoop-0.20.203.tar.gz:

 cd /usr/local
sudo tar -zxf hadoop-0.20.203.0rc1.tar.gz

  3. 將解壓出的文件夾改名為hadoop:

 sudo mv hadoop-0.20.203.0 hadoop

  4. 將該hadoop文件夾的屬主用戶設(shè)為hadoop:

 sudo chown -R hadoop:hadoop hadoop

  5. 打開hadoop/conf/hadoop-env.sh文件:

 sudo gedit hadoop/conf/hadoop-env.sh

  6. 配置conf/hadoop-env.sh(找到#export JAVA_HOME=...,去掉#,然后加上本機(jī)jdk的路徑):

 export JAVA_HOME=/usr/lib/jvm/java-6-openjdk

  7. 打開conf/core-site.xml文件:

 sudo gedit hadoop/conf/core-site.xml

  編輯如下:

  1. <?xml version="1.0"?> 
  2. <?xml-stylesheet type="text/xsl" href="configuration.xsl"?>                                                                                                         
  3. <!-- Put site-specific property overrides in this file. --> 
  4.                                                            
  5. <configuration> 
  6. <property>    
  7.   <name>fs.default.name</name>    
  8.   <value>hdfs://localhost:9000</value>     
  9.  </property>    
  10. </configuration> 

  8. 打開conf/mapred-site.xml文件:

 sudo gedit hadoop/conf/mapred-site.xml

  編輯如下:

  1. <?xml version="1.0"?> 
  2. <?xml-stylesheet type="text/xsl" href="configuration.xsl"?>                                                                                                           
  3. <!-- Put site-specific property overrides in this file. -->                                                  
  4.     <configuration>    
  5.      <property>     
  6.       <name>mapred.job.tracker</name>    
  7.       <value>localhost:9001</value>     
  8.      </property>    
  9.     </configuration> 

  9. 打開conf/hdfs-site.xml文件:

 sudo gedit hadoop/conf/hdfs-site.xml

  編輯如下:

  1. <configuration> 
  2. <property> 
  3. <name>dfs.name.dir</name> 
  4. <value>/usr/local/hadoop/datalog1,/usr/local/hadoop/datalog2</value> 
  5. </property> 
  6. <property> 
  7. <name>dfs.data.dir</name> 
  8. <value>/usr/local/hadoop/data1,/usr/local/hadoop/data2</value> 
  9. </property> 
  10. <property> 
  11. <name>dfs.replication</name> 
  12. <value>2</value> 
  13. </property> 
  14. </configuration> 

  10. 打開conf/masters文件,添加作為secondarynamenode的主機(jī)名,作為單機(jī)版環(huán)境,這里只需填寫 localhost 就Ok了。

 sudo gedit hadoop/conf/masters

  11. 打開conf/slaves文件,添加作為slave的主機(jī)名,一行一個(gè)。作為單機(jī)版,這里也只需填寫 localhost就Ok了。

 sudo gedit hadoop/conf/slaves

  八. 在單機(jī)上運(yùn)行hadoop

  1. 進(jìn)入hadoop目錄下,格式化hdfs文件系統(tǒng),初次運(yùn)行hadoop時(shí)一定要有該操作,

 cd /usr/local/hadoop/
bin/hadoop namenode -format

  2. 當(dāng)你看到下圖時(shí),就說(shuō)明你的hdfs文件系統(tǒng)格式化成功了。

  3. 啟動(dòng)bin/start-all.sh:

 bin/start-all.sh

  4. 檢測(cè)hadoop是否啟動(dòng)成功:

 jps

  如果有Namenode,SecondaryNameNode,TaskTracker,DataNode,JobTracker五個(gè)進(jìn)程,就說(shuō)明你的hadoop單機(jī)版環(huán)境配置好了!

  如下圖:

  至此,一個(gè)hadoop的單機(jī)版環(huán)境就搭建好了,如果有什么問(wèn)題,請(qǐng)給我提出來(lái),咱們可以相互交流。

  后續(xù)我將會(huì)整理hadoop集群的搭建,和測(cè)試的教程。敬請(qǐng)關(guān)注!

責(zé)任編輯:黃丹 來(lái)源: DuBin's Blog
相關(guān)推薦

2013-06-13 10:39:54

Hadoop2.0.4

2012-11-01 17:15:04

2021-05-16 07:44:01

Hadoop大數(shù)據(jù)HDFS

2015-08-26 10:18:40

hbase

2010-04-16 10:50:44

2020-08-18 07:44:57

Redis單機(jī)版框架

2024-05-31 13:23:19

OceanBase單機(jī)版架構(gòu)

2013-05-27 14:37:31

Hadoop 2.0.

2010-11-25 16:48:20

HadoopHbase

2017-08-10 10:17:32

Hadoop分布式搭建

2012-04-27 09:53:37

Ubuntu 12.0

2011-12-07 09:45:47

Ubuntu 12.0發(fā)行計(jì)劃

2011-12-07 15:03:25

Ubuntu 12.0版本下載

2010-10-19 09:35:08

Ubuntu 10.1云環(huán)境

2012-05-09 14:23:04

Ubuntu 11.1服務(wù)器

2010-06-04 16:17:02

2018-07-10 15:15:11

2020-04-01 11:11:35

Hadoop運(yùn)行環(huán)境分布式

2012-03-31 09:42:21

Ubuntu 12.0測(cè)試版發(fā)布

2011-09-01 19:06:57

UbuntuLua安裝環(huán)境
點(diǎn)贊
收藏

51CTO技術(shù)棧公眾號(hào)