自拍偷在线精品自拍偷,亚洲欧美中文日韩v在线观看不卡

Standalone是什么?Standalone集群的三類進(jìn)程

大數(shù)據(jù)
Standalone模式是Spark自帶的一種集群模式,不同于前面本地模式啟動(dòng)多個(gè)進(jìn)程來(lái)模擬集群的環(huán)境,Standalone模式是真實(shí)地在多個(gè)機(jī)器之間搭建Spark集群的環(huán)境,完全可以利用該模式搭建多機(jī)器集群,用于實(shí)際的大數(shù)據(jù)處理。

Standalone是什么

Standalone模式是Spark自帶的一種集群模式,不同于前面本地模式啟動(dòng)多個(gè)進(jìn)程來(lái)模擬集群的環(huán)境,Standalone模式是真實(shí)地在多個(gè)機(jī)器之間搭建Spark集群的環(huán)境,完全可以利用該模式搭建多機(jī)器集群,用于實(shí)際的大數(shù)據(jù)處理。

StandAlone 是完整的Spark運(yùn)行環(huán)境,其中: Master角色以Master進(jìn)程存在, Worker角色以Worker進(jìn)程存在 Driver和Executor運(yùn)行于Worker進(jìn)程內(nèi), 由Worker提供資源供給它們運(yùn)行。

StandAlone集群在進(jìn)程上主要有3類進(jìn)程:

(1)主節(jié)點(diǎn)Master進(jìn)程:

Master角色, 管理整個(gè)集群資源,并托管運(yùn)行各個(gè)任務(wù)的Driver

(2)從節(jié)點(diǎn)Workers:

Worker角色, 管理每個(gè)機(jī)器的資源,分配對(duì)應(yīng)的資源來(lái)運(yùn)行Executor(Task); 每個(gè)從節(jié)點(diǎn)分配資源信息給Worker管理,資源信息包含內(nèi)存Memory和CPU Cores核數(shù)。

(3)歷史服務(wù)器HistoryServer(可選):

Spark Application運(yùn)行完成以后,保存事件日志數(shù)據(jù)至HDFS,啟動(dòng)HistoryServer可以查看應(yīng)用運(yùn)行相關(guān)信息。Spark的歷史服務(wù)器, 功能: 將Spark運(yùn)行的程序的歷史日志記錄下來(lái), 通過(guò)歷史服務(wù)器方便用戶查看程序運(yùn)行的歷史信息。

責(zé)任編輯:華軒 來(lái)源: 今日頭條
相關(guān)推薦

2014-04-16 14:04:34

SparkStandalone

2010-07-30 16:06:41

2010-07-19 13:49:52

autoTelnet

2010-09-26 16:10:03

數(shù)據(jù)加密產(chǎn)品

2010-06-12 16:41:59

網(wǎng)絡(luò)核心協(xié)議

2021-09-01 15:48:50

API漏洞應(yīng)用程序安全

2014-12-29 10:25:34

MEFNFVSDN

2021-11-29 10:41:09

分布式抽象接口

2018-04-24 09:00:00

開發(fā)自動(dòng)化軟件架構(gòu)

2020-09-22 18:01:22

SparkStandalone運(yùn)行

2012-03-26 10:10:56

云計(jì)算

2018-07-05 22:43:24

2010-09-28 15:33:18

DHCP服務(wù)器應(yīng)用

2010-09-25 15:54:23

SQL存儲(chǔ)過(guò)程

2010-07-16 10:58:21

云計(jì)算

2016-09-13 14:05:24

Spark集群管理模式

2014-06-10 10:20:42

2010-09-09 11:25:09

2024-12-13 08:24:23

2009-06-10 15:49:25

就業(yè)IT培訓(xùn)偏門
點(diǎn)贊
收藏

51CTO技術(shù)棧公眾號(hào)