自拍偷在线精品自拍偷,亚洲欧美中文日韩v在线观看不卡

第25期:有序分組

企業(yè)動態(tài)
我們知道,SQL延用了數(shù)學(xué)上的無序集合概念,所以SQL的分組并不關(guān)注過待分組集合中成員的次序,分組規(guī)則都是建立在成員取值本身上。

有序分組

我們知道,SQL延用了數(shù)學(xué)上的無序集合概念,所以SQL的分組并不關(guān)注過待分組集合中成員的次序。我們在前面討論過的等值分組和非等值分組,也都沒有關(guān)注過這個問題,分組規(guī)則都是建立在成員取值本身上。但如果我們要拓展SQL,以有序集合為考慮對象時,那就必須考慮成員次序?qū)Ψ纸M的影響了,而且,現(xiàn)實業(yè)務(wù)中有大量的有序分組應(yīng)用場景。

1. 序號分組

一個簡單的例子:將一個班的學(xué)生平均分成三份(假定人數(shù)能被3整除)。按我們在前面所說的分組定義,這也可以看成是一種分組,但這個運算在SQL中卻很難寫出來,因為分組依據(jù)和成員取值沒有關(guān)系。

如果使用我們在前面講有序遍歷語法時的#符號,這個問題就很容易解決了。

  1. A.group( (#-1)*3\A.len() )   // 按序號分成前1/3,中1/3,后1/3 
  2. A.group( (#-1)%3 )             // 還可以按序號每三個中取一個構(gòu)成分組子集 

用SQL實現(xiàn)這個運算就麻煩很多,需要先用子查詢造出一個序號,然后再執(zhí)行類似的分組規(guī)則。

上面這個例子中其實還沒有真正關(guān)注成員的次序,只是說明了序號的作用,待分組集合的成員是其它次序時也可以得到可用的結(jié)果。

我們再看更多例子。

處理文本日志時,有些日志的基本單位不是1行,而可能是3行,即每個事件總是寫出3行文本,這并不是多罕見的情況。對付這種日志時,就需要把文本每3行拆成一個分組子集,然后針對每個分組再進行詳細的分析處理。這時要正確的分組運算就必須依賴于待分組集合中成員(文本日志的行)的次序了。

入學(xué)考試之后,把學(xué)生按成績排序蛇行分拆成兩個班,即名次1,4,5,8,...在一個,而2,3,6,7,...在另一個班,這樣能保證兩個班的平均名次是相同的。這個分組也可以用序號做出來:

  1. A.sort@z(score).group(#%4<2

這里用的分組值不再是常見的普通數(shù)值,而是一個布爾量,相當(dāng)于按“真“值和“假”值分成兩個組,真值對應(yīng)***個班,假值對應(yīng)另一個班。本質(zhì)上講,這還是個等值分組,只是用到的分組值可以是任意泛型。

顯然,這個分組的正確性也嚴重依賴于待分組集成的成員次序。

順便說一句,這又是一個只關(guān)注分組子集而不關(guān)心聚合值的例子。

按序號分組在很多情況下就是用序號來計算出分組依據(jù),然后就變成普通的等值分組了。那么有沒有不能簡單地轉(zhuǎn)換成等值分組的情況呢?

2. 值變化分組

有一組嬰兒出生記錄,是按出生次序排序的,我們現(xiàn)在關(guān)心連續(xù)出生的同性別嬰兒數(shù)量超過5的有多少批?

簡單想,這就是先GROUP,計算每組COUNT值,然后數(shù)出有幾個大于5的。后兩步很簡單,問題是怎么GROUP?

直接按嬰兒性別分組當(dāng)然是不對的,必須考慮次序,依次掃描記錄,當(dāng)嬰兒性別發(fā)生變化時則產(chǎn)生一個新組。這種分組顯然沒法直接用等值分組做出來了。

我們可以提供一個有序分組方法來實現(xiàn)這種分組:當(dāng)考察值發(fā)生變化時就產(chǎn)生一個新的分組。

  1. A.group@o(gender).count(~.len()>5)   // @o選項表示分組值變化時將產(chǎn)生新分組。 

用SQL就麻煩很多,需要先造成中間標志和變量來生成組的序號,大概是這樣

  1. SELECT COUNT(*) FROM 
  2.    (SELECT ChangeNumber FROM 
  3.         (SELECT SUM(ChangeFlag) OVER (ORDER BY birthday) ChangeNumber FROM 
  4.             (SELECT CASE WHEN gender=LAG(gender) OVER ( ORDER BY birthday) THEN 0 ELSE 1 END ChangeFlag FROM A)) 
  5.     GROUP ChangeNumber HAVING COUNT(*)>5) 

這樣的SQL,看懂都不是很容易的。而且必須借助birthday這種字段來形成次序,而前述的有序分組寫法在原數(shù)據(jù)有序時根本用不著這個信息。

這種場景同樣可能出現(xiàn)在文本分析中。每個用戶的事件日志可能多行,而且行數(shù)不確定,但寫日志時會在每個行開始處寫上用戶號。這樣我們可以按這個用戶號進行有序分組,它變化時就說明是另一個用戶的事件了。

即使是普通的等值分組,如果事先知道原集合對分組字段有序,也可以使用這種方案來實施,這將獲得更高的性能,比數(shù)據(jù)庫常用的HASH分組方案要快得多,而且特別適合大數(shù)據(jù)遍歷的情況。

3. 條件變化分組

再看一個著名的問題:一支股票最長連續(xù)上漲了多少天?

這個問題當(dāng)然可以直接遍歷去解決,不過我們現(xiàn)在用分組的思路來處理,至少在SQL體系下只能這么做(嚴格些說,這是目前找到的最簡單可行的辦法)。

將股票收盤價按日期排序,然后將連續(xù)上漲的日期分到同一組,這樣只要考慮哪一組成員數(shù)最多即可。更明確地說,就是當(dāng)某天上漲了,就把這一天和前一天分到一個組中,某天下跌了,則產(chǎn)生一個新組。

用SQL實現(xiàn)這個思路,同樣需要用中間標志和變量來生成組序號:

  1. SELECT MAX(ContinuousDays) FROM 
  2.     (SELECT COUNT(*) ContinuousDays FROM 
  3.         (SELECT SUM(RisingFlag) OVER (ORDER BY TradingDate ) NoRisingDays FROM 
  4.             (SELECT TradingDate, 
  5.                 CASE WHEN ClosingPrice>LAG(ClosingPrice) OVER (ORDER BY TradingDate THEN 0 ELSE 1 END) RisingFlag 
  6.             FROM A)) 
  7.     GROUP BY NoRisingDays) 

如果有專門的有序分組方法以及以前說過的有序遍歷語法,這個運算就很簡單了:

  1. A.sort(TradingDate).group@i(ClosingPrice<ClosingPrice[-1]).max(~.len())  //選項@i表示當(dāng)條件成立時產(chǎn)生新分組 

與SQL不同,雖然實現(xiàn)思路完全一樣,但寫出來是分步的,而不是一個多層嵌套語句,書寫和理解都要容易得多。

同樣地,這種場景也會在文本分析中有用。不確定行數(shù)的日志中,有時會在事件分始時寫一個標志串,當(dāng)掃描到這個標志串的時候就產(chǎn)生一個新的分組,有序分析的條件可設(shè)定為當(dāng)前掃描行和指定文字相同,這樣就能保證同一事件的日志信息在同一個組中。

后兩種有序分組的情況,理論上當(dāng)然也可以轉(zhuǎn)換成等值分組來處理(用SQL就要這么做,這也能從另一個側(cè)面說明SQL運算體系的完備性),但確實是相當(dāng)麻煩的,所以我們一般不把它再當(dāng)成等值分組來處理了。

到目前為止的分組討論,都是假定待分組集合已經(jīng)準備好,其成員可以被隨機訪問到。但如果數(shù)據(jù)量巨大而不能全部讀入時,如果繼續(xù)做這種假定,會導(dǎo)致頻繁的外存交換而性能極差,這時需要再設(shè)計以流方式邊讀入邊分組并且邊聚合的運算體系。事實上日志分析中更常見的是這種情況,這些問題我們將再撰文研究,但基本方法思路仍然離不開上面這些內(nèi)容。

責(zé)任編輯:趙寧寧 來源: 51CTO專欄
相關(guān)推薦

2017-10-18 22:34:33

SQL等值分組有序分組

2017-09-13 08:45:33

遍歷SQL運算

2017-12-26 15:33:24

JOINSQL運算

2017-09-27 08:25:35

SQL等值分組運算

2014-02-12 17:18:21

移動技術(shù)半月刊

2011-08-31 14:04:18

IPv6網(wǎng)絡(luò)·安全技術(shù)周刊

2013-01-21 13:41:59

IBMdW

2017-09-05 22:34:24

遍歷SQL運算

2017-11-08 06:18:43

JOINSQL運算

2018-01-18 20:47:18

CPU數(shù)據(jù)線程

2018-01-24 07:45:51

數(shù)據(jù)倍增分段列存

2017-12-12 22:48:21

JOIN維度運算

2018-02-06 23:30:07

文件存儲數(shù)據(jù)

2017-05-25 08:56:22

硬盤性能特征

2017-11-15 06:36:25

JOINSQL運算

2017-12-10 22:42:50

JOINSQL運算

2018-01-01 23:28:37

JOIN維度數(shù)據(jù)分析

2017-05-22 22:23:29

索引本質(zhì)排序

2017-05-24 17:08:29

OLAP

2018-03-05 08:13:13

臨時性計算編程語言
點贊
收藏

51CTO技術(shù)棧公眾號