Pandas教程 | Merge數據合並圖文詳解


為了方便維護,一般公司的數據在數據庫內都是分表存儲的,比如用一個表存儲所有用戶的基本信息,一個表存儲用戶的消費情況。所以,在日常的數據處理中,經常需要將兩張表拼接起來使用,這樣的操作對應到SQL中是join,在Pandas中則是用merge來實現。這篇文章就講一下merge的主要原理。

上面的引入部分說到merge是用來拼接兩張表的,那么拼接時自然就需要將用戶信息一一對應地進行拼接,所以進行拼接的兩張表需要有一個共同的識別用戶的鍵(key)。總結來說,整個merge的過程就是將信息一一對應匹配的過程,下面介紹merge的四種類型,分別為'inner''left''right''outer'

一、inner

merge'inner'的類型稱為內連接,它在拼接的過程中會取兩張表的鍵(key)的交集進行拼接。什么意思呢?下面以圖解的方式來一步一步拆解。

首先我們有以下的數據,左側和右側的數據分別代表了用戶的基礎信息和消費信息,連接兩張表的鍵是userid

現在用'inner'的方式進行merge

In [6]: df_1.merge(df_2,how='inner',on='userid')
Out[6]:
  userid  age  payment
0      a   23     2000
1      c   32     3500

過程圖解:

①取兩張表的鍵的交集,這里df_1df_2userid的交集是{a,c}

②對應匹配

③結果

過程匯總:

相信整個過程並不難理解,上面演示的是同一個鍵下,兩個表對應只有一條數據的情況(一個用戶對應一條消費記錄),那么,如果一個用戶對應了多條消費記錄的話,那又是怎么拼接的呢?

假設現在的數據變成了下面這個樣子,在df_2中,有兩條和a對應的數據:

同樣用inner的方式進行merge

In [12]: df_1.merge(df_2,how='inner',on='userid')
Out[12]:
  userid  age  payment
0      a   23     2000
1      a   23      500
2      b   46     1000
3      c   32     3500

整個過程除了對應匹配階段,其他和上面基本都是一致的。

過程圖解:

①取兩張表的鍵的交集,這里df_1df_2userid的交集是{a,b,c}

②對應匹配時,由於這里的a有兩條對應的消費記錄,故在拼接時,會將用戶基礎信息表中a對應的數據復制多一行來和右邊進行匹配。

③結果

二、left 和right

'left''right'merge方式其實是類似的,分別被稱為左連接和右連接。這兩種方法是可以互相轉換的,所以在這里放在一起介紹。

  • 'left'

merge時,以左邊表格的鍵為基准進行配對,如果左邊表格中的鍵在右邊不存在,則用缺失值NaN填充。

  • 'right'

merge時,以右邊表格的鍵為基准進行配對,如果右邊表格中的鍵在左邊不存在,則用缺失值NaN填充。

什么意思呢?用一個例子來具體解釋一下,這是演示的數據

現在用'left'的方式進行merge

In [21]: df_1.merge(df_2,how='left',on='userid')
Out[21]:
  userid  age  payment
0      a   23   2000.0
1      b   46      NaN
2      c   32   3500.0
3      d   19      NaN

過程圖解:

①以左邊表格的所有鍵為基准進行配對。圖中,因為右表中的e不在左表中,故不會進行配對。

②若右表中的payment列合並到左表中,對於沒有匹配值的用缺失值NaN填充

過程匯總:

對於'right'類型的merge'left'其實是差不多的,只要把兩個表格的位置調換一下,兩種方式返回的結果就是一樣的(),如下:

In [22]: df_2.merge(df_1,how='right',on='userid')
Out[22]:
  userid  payment  age
0      a   2000.0   23
1      c   3500.0   32
2      b      NaN   46
3      d      NaN   19

至於'left''right'中(乃至於下面將介紹的'outer')連接的鍵是一對多的情況,原理和上方的'inner'是類似的,這里便不再贅述。

三、outer

'outer'是外連接,在拼接的過程中它會取兩張表的鍵(key)的並集進行拼接。看文字不夠直觀,還是上例子吧!

還是使用上方用過的演示數據

這次使用'outer'進行merge

In [24]: df_1.merge(df_2,how='outer',on='userid')
Out[24]:
  userid   age  payment
0      a  23.0   2000.0
1      b  46.0      NaN
2      c  32.0   3500.0
3      d  19.0      NaN
4      e   NaN    600.0

圖解如下:

①取兩張表鍵的並集,這里是{a,b,c,d,e}

②將兩張表的數據列拼起來,對於沒有匹配到的地方,使用缺失值NaN進行填充

能讀到這里的小伙伴想必也基本理解了merge的整個過程,總結來說,merge的不同類型區別就在於拼接時,選用的是兩表的鍵的集合不同。關於Pandas的merge就介紹到這里!

相關文章:

    1. Pandas數據處理三板斧——map、apply、applymap詳解
    2. Pandas數據分析——超好用的Groupby詳解
    3. Pandas數據處理——玩轉時間序列數據
    4. Pandas數據處理——盤點那些常用的函數(上)
    5. Pandas數據處理——盤點那些常用的函數(下)
    6. 天秀!Pandas還能用來寫爬蟲?
    7. 提高數據的顏值!一起看看Pandas中的那些Style
    8. 提速百倍的Pandas性能優化方法,讓你的Pandas飛起來!

 轉自https://zhuanlan.zhihu.com/p/102274476


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM