Pandas 中的merge()方法無疑是數(shù)據(jù)科學家在其數(shù)據(jù)科學項目中最常用的方法之一。

該方法源自 SQL 中的表連接思想并擴展到在 Python 環(huán)境中連接表，該方法基于一列或多列中的匹配值合并兩個 Pandas DataFrame。

如下圖所示：

連接表的圖解概述

Merge()方法的直觀特性使其成為Pandas用戶合并數(shù)據(jù)框的理想選擇。

但是，在運行時方面，Pandas 中有一個相對更好的替代方法，甚至已經(jīng)超過該 merge()方法了。

合并表的方法

方法一：使用merge()

如上所述，在 Pandas 中合并 DataFrame 的傳統(tǒng)和最常見的方法是使用該merge()方法。

df = pd.merge(df1, df2, 
              how = "left", 
              left_on = "df1_col_name", 
              right_on = "df2_col_name")

如上面的代碼塊所示，該方法接受兩個DataFrames, df1和df2。

此外，我們使用 how? 參數(shù)指定我們希望執(zhí)行的連接類型（在上面的例子中是 left）。

最后，我們用left_on?參數(shù)指定要考慮與第一個DataFrame(df1) 的值匹配的列，用right_on參數(shù)指定與第二個DataFrame(df2)的值匹配的列。

方法二：使用 join()

Join()? 方法在目標上與 Pandas 中的 merge() 方法相似，但在實現(xiàn)上有一些區(qū)別。

Join()?方法在df2和df1的索引上執(zhí)行查找。然而，merge()方法主要用于使用列中的條目進行連接。

Join()?方法默認執(zhí)行的是左鍵連接。而merge()方法在其默認行為中采用了內(nèi)聯(lián)接。

連接索引值的表

下面的代碼塊演示了該join()方法。

df = df1.join(df2, how = "inner")

如上所述，join()方法執(zhí)行了一個索引查詢來連接兩個DataFrame。也就是說，對應于相同索引值的行被合并。

因此，在使用join()?方法時，你應該首先設置你希望執(zhí)行join的列作為DataFrame的索引，然后再調(diào)用join()方法。

df1.set_index("df1_col_name", inplace = True)
df2.set_index("df2_col_name", inplace = True)

df = df1.join(df2, how = "inner")

實驗驗證

為了評估 Pandas 中 merge()? 方法的運行時性能，我們將把它與 join() 方法進行比較。

具體來說，我們將創(chuàng)建兩個假的DataFrames，并使用 merge() ?和 join() 這兩種方法進行連接。

本實驗的實現(xiàn)如下。

首先，我們將整數(shù)的值設置為(-high, +high)?。我們將比較兩種方法在不同大小的DataFrame上的表現(xiàn)，行數(shù)為 rows_list?，列數(shù)為 n_columns。最后，我們將重復運行每個實驗。

high = 10000
rows_list = [(i+1)*1_000_000 for i in range(10)] 
n_columns = 5
repeat = 5

該create_df 方法接受一系列參數(shù)并返回一個隨機數(shù)據(jù)框。

def create_df(n_rows, n_columns, col_names):

    data = np.random.randint(low = -high, high = high, size = (n_rows, n_columns))
    return pd.DataFrame(data, columns = col_names)

在下面的代碼中，我們測量了merge()? 方法和  join()? 方法在同一個DataFrame df1? 和 df2 上的運行時間。

result = []
for n_rows in rows_list:
    
    sum_time_merge1 = 0
    sum_time_merge2 = 0
    
    for _ in range(repeat):
        
        df1 = create_df(n_rows, n_columns, [f"col_{i}" for i in range(n_columns)])
        df2 = create_df(n_rows, n_columns, [f"Col_{i}" for i in range(n_columns)])
        
        ## Method 1
        start = time()
        df = pd.merge(df1, df2, how = "left", left_on = "col_0", right_notallow="Col_0")
        sum_time_merge1 += (time()-start)
        
        ## Method 2
        start = time()
        df1.set_index("col_0", inplace = True)
        df2.set_index("Col_0", inplace = True)
        df = df1.join(df2)
        sum_time_merge2 += (time()-start)
        
    result.append([df1.shape[0], sum_time_merge1/repeat, sum_time_merge2/repeat]) 

注意，要使用join()方法，你應該首先將列作為DataFrame的索引。

結果

Join vs Merge 方法的實驗結果

藍色線圖描述了merge()?方法的運行時間，黃色線圖表示join()方法的運行時間。

我們將行數(shù)從 100 萬變化到 1000 萬，注意到兩種方法的運行時間都與行數(shù)呈正相關。

然而，與傳統(tǒng)的merge()?方法相比，join()方法的運行時間有明顯的改善。

隨著行數(shù)的增加，兩種方法的運行時間的差異也在增加。這表明你應該始終使用join()方法來合并DataFrames，特別是在較大的數(shù)據(jù)集的情況下。

寫在最后

最后，在這篇文章中，我們比較了Pandas的merge()?和join()方法在一個假的DataFrame上的性能。

實驗結果表明，使用join()?方法在索引列上進行合并，在運行時間上比merge()方法高效——提供了高達4到5倍的性能提升。