pandas聚合和分組運算之groupby


pandas提供了一個靈活高效的groupby功能,它使你能以一種自然的方式對數據集進行切片、切塊、摘要等操作。根據一個或多個鍵(可以是函數、數組或DataFrame列名)拆分pandas對象。計算分組摘要統計,如計數、平均值、標准差,或用戶自定義函數。對DataFrame的列應用各種各樣的函數。應用組內轉換或其他運算,如規格化、線性回歸、排名或選取子集等。計算透視表或交叉表。執行分位數分析以及其他分組分析。

1、首先來看看下面這個非常簡單的表格型數據集(以DataFrame的形式):

import pandas as pd
import numpy as np
df = pd.DataFrame({'key1':['a', 'a', 'b', 'b', 'a'],
     'key2':['one', 'two', 'one', 'two', 'one'],
     'data1':np.random.randn(5),
     'data2':np.random.randn(5)})
df

2.按key1進行分組,並計算data1列的平均值,我們可以訪問data1,並根據key1調用groupby:

grouped = df['data1'].groupby(df['key1'])
grouped

變量grouped是一個GroupBy對象,它實際上還沒有進行任何計算,只是含有一些有關分組鍵df['key1']的中間數據而已,然后我們可以調用GroupBy的mean方法來計算分組平均值:

grouped.mean()

 說明:數據(Series)根據分組鍵進行了聚合,產生了一個新的Series,其索引為key1列中的唯一值。之所以結果中索引的名稱為key1,是因為原始DataFrame的列df['key1']就叫這個名字

3、如果我們一次傳入多個數組,就會得到不同的結果:

means = df['data1'].groupby([df['key1'], df['key2']]).mean()
means

通過兩個鍵對數據進行了分組,得到的Series具有一個層次化索引(由唯一的鍵對組成):

然后我用unstack 把他的二階索引攤開:

 

 在上面這些示例中,分組鍵均為Series。實際上,分組鍵可以是任何長度適當的數組:

states = np.array(['Ohio', 'California', 'California', 'Ohio', 'Ohio'])
years = np.array([2005, 2005, 2006, 2005, 2006])
df['data1'].groupby([states, years]).mean()

結果:
California      2005   -2.120793
                2006    0.642216
Ohio            2005    0.282230
                2006   -1.017495
dtype: float64

 4、還可以將列名(可以是字符串、數字或其他Python對象)用作分組將:

df.groupby('key1').mean()

df.groupby(['key1', 'key2']).mean()

說明:在執行df.groupby('key1').mean()時,結果中沒有key2列。這是因為df['key2']不是數值數據,所以被從結果中排除了。

默認情況下,所有數值列都會被聚合,雖然有時可能會被過濾為一個子集。

無論你准備拿groupby做什么,都有可能會用到GroupBy的size方法,它可以返回一個含有分組大小的Series:

df1=df.groupby(['key1', 'key2']).size()
print(df1)
print(type(df1))

 注意:分組鍵中的任何缺失值都會被排除在結果之外。 

區別於:

 

5、對分組進行迭代

GroupBy對象支持迭代,可以產生一組二元元組(由分組名和數據塊組成)。看看下面這個簡單的數據集:

for name, group in df.groupby('key2'):
    print(name)
    print(group)

 對於多重鍵的情況,元組的第一個元素將會是由鍵值組成的元組:

for (k1, k2), group in df.groupby(['key1', 'key2']):
     print(k1, k2)
     print(group)

 

  當然,你可以對這些數據片段做任何操作。有一個你可能會覺得有用的運算:將這些數據片段做成一個字典:

pieces = dict(list(df.groupby('key1')))
print(type(pieces['b']),':')
pieces['b']

l1=list(df.groupby('key1'))
print("l1:","\n",l1)

print(type(l1[0][1]))

l1[0][1]

groupby默認是在axis=0上進行分組的,通過設置也可以在其他任何軸上進行分組。

那上面例子中的df來說,我們可以根據dtype對列進行分組:

df.dtypes

 

grouped = df.groupby(df.dtypes, axis=1)
dict(list(grouped))

 

 

list(grouped)

 

6、選取一個或一組列

對於由DataFrame產生的GroupBy對象,如果用一個(單個字符串)或一組(字符串數組)列名對其進行索引,就能實現選取部分列進行聚合的目的,即:

df['data1'].groupby([df['key1']])

df[['data2']].groupby([df['key1']])

df['data2'].groupby([df['key1']])

和以下代碼是等效的:

df['data1'].groupby([df['key1']])

df[['data2']].groupby([df['key1']])

df['data2'].groupby([df['key1']])

尤其對於大數據集,很可能只需要對部分列進行聚合。

例如,在前面那個數據集中,如果只需計算data2列的平均值並以DataFrame形式得到結果,代碼如下:

df.groupby(['key1', 'key2'])[['data2']].mean()

df.groupby(['key1', 'key2'])['data2'].mean()

 

  這種索引操作所返回的對象是一個已分組的DataFrame(如果傳入的是列表或數組)或已分組的Series(如果傳入的是標量形式的單個列明):

 

7、通過字典或Series進行分組

除數組以外,分組信息還可以其他形式存在,來看一個DataFrame示例:

people = pd.DataFrame(np.random.randn(5, 5),
                      columns=['a', 'b', 'c', 'd', 'e'],
                      index=['Joe', 'Steve', 'Wes', 'Jim', 'Travis']
                      )    
people

mapping = {'a':'red', 'b':'red', 'c':'blue',    'd':'blue', 'e':'red', 'f':'orange'}
by_column = people.groupby(mapping, axis=1)
by_column

by_column.sum()

 Series也有同樣的功能,它可以被看做一個固定大小的映射。對於上面那個例子,如果用Series作為分組鍵,則pandas會檢查Series以確保其索引跟分組軸是對齊的:

map_series = pd.Series(mapping)

people.groupby(map_series, axis=1).count()

 

8、通過函數進行分組

相較於字典或Series,Python函數在定義分組映射關系時可以更有創意且更為抽象。任何被當做分組鍵的函數都會在各個索引值上被調用一次,其返回值就會被用作分組名稱。

具體點說,以DataFrame為例,其索引值為人的名字。假設你希望根據人名的長度進行分組,雖然可以求取一個字符串長度數組,但其實僅僅傳入len函數即可:

people.groupby(len).sum()

 

將函數跟數組、列表、字典、Series混合使用也不是問題,因為任何東西最終都會被轉換為數組:

key_list = ['one', 'one', 'one', 'two', 'two']
people.groupby([len, key_list]).min()

 

 

9、根據索引級別分組

層次化索引數據集最方便的地方在於它能夠根據索引級別進行聚合。要實現該目的,通過level關鍵字傳入級別編號或名稱即可:

columns = pd.MultiIndex.from_arrays(
        [['US', 'US', 'US', 'JP', 'JP'],
         [1   ,    3,    5,   1,     3]], 
        names=['cty', 'tenor'])
columns

hier_df = pd.DataFrame(np.random.randn(4, 5), columns=columns)
hier_df

 

 

hier_df.groupby(level='cty', axis=1).count()

 


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM