pandas提供了一個靈活高效的groupby功能,它使你能以一種自然的方式對數據集進行切片、切塊、摘要等操作。根據一個或多個鍵(可以是函數、數組或DataFrame列名)拆分pandas對象。計算分組摘要統計,如計數、平均值、標准差,或用戶自定義函數。對DataFrame的列應用各種各樣的函數。應用組內轉換或其他運算,如規格化、線性回歸、排名或選取子集等。計算透視表或交叉表。執行分位數分析以及其他分組分析。
1、首先來看看下面這個非常簡單的表格型數據集(以DataFrame的形式):
import pandas as pd import numpy as np df = pd.DataFrame({'key1':['a', 'a', 'b', 'b', 'a'], 'key2':['one', 'two', 'one', 'two', 'one'], 'data1':np.random.randn(5), 'data2':np.random.randn(5)}) df
2.按key1進行分組,並計算data1列的平均值,我們可以訪問data1,並根據key1調用groupby:
grouped = df['data1'].groupby(df['key1']) grouped
變量grouped是一個GroupBy對象,它實際上還沒有進行任何計算,只是含有一些有關分組鍵df['key1']的中間數據而已,然后我們可以調用GroupBy的mean方法來計算分組平均值:
grouped.mean()
說明:數據(Series)根據分組鍵進行了聚合,產生了一個新的Series,其索引為key1列中的唯一值。之所以結果中索引的名稱為key1,是因為原始DataFrame的列df['key1']就叫這個名字
3、如果我們一次傳入多個數組,就會得到不同的結果:
means = df['data1'].groupby([df['key1'], df['key2']]).mean() means
通過兩個鍵對數據進行了分組,得到的Series具有一個層次化索引(由唯一的鍵對組成):
然后我用unstack 把他的二階索引攤開:
在上面這些示例中,分組鍵均為Series。實際上,分組鍵可以是任何長度適當的數組:
states = np.array(['Ohio', 'California', 'California', 'Ohio', 'Ohio']) years = np.array([2005, 2005, 2006, 2005, 2006]) df['data1'].groupby([states, years]).mean() 結果: California 2005 -2.120793 2006 0.642216 Ohio 2005 0.282230 2006 -1.017495 dtype: float64
4、還可以將列名(可以是字符串、數字或其他Python對象)用作分組將:
df.groupby('key1').mean()
df.groupby(['key1', 'key2']).mean()
說明:在執行df.groupby('key1').mean()時,結果中沒有key2列。這是因為df['key2']不是數值數據,所以被從結果中排除了。
默認情況下,所有數值列都會被聚合,雖然有時可能會被過濾為一個子集。
無論你准備拿groupby做什么,都有可能會用到GroupBy的size方法,它可以返回一個含有分組大小的Series:
df1=df.groupby(['key1', 'key2']).size() print(df1) print(type(df1))
注意:分組鍵中的任何缺失值都會被排除在結果之外。
區別於:
5、對分組進行迭代
GroupBy對象支持迭代,可以產生一組二元元組(由分組名和數據塊組成)。看看下面這個簡單的數據集:
for name, group in df.groupby('key2'): print(name) print(group)
對於多重鍵的情況,元組的第一個元素將會是由鍵值組成的元組:
for (k1, k2), group in df.groupby(['key1', 'key2']): print(k1, k2) print(group)
當然,你可以對這些數據片段做任何操作。有一個你可能會覺得有用的運算:將這些數據片段做成一個字典:
pieces = dict(list(df.groupby('key1'))) print(type(pieces['b']),':') pieces['b']
l1=list(df.groupby('key1')) print("l1:","\n",l1) print(type(l1[0][1])) l1[0][1]
groupby默認是在axis=0上進行分組的,通過設置也可以在其他任何軸上進行分組。
那上面例子中的df來說,我們可以根據dtype對列進行分組:
df.dtypes
grouped = df.groupby(df.dtypes, axis=1)
dict(list(grouped))
list(grouped)
6、選取一個或一組列
對於由DataFrame產生的GroupBy對象,如果用一個(單個字符串)或一組(字符串數組)列名對其進行索引,就能實現選取部分列進行聚合的目的,即:
df['data1'].groupby([df['key1']]) df[['data2']].groupby([df['key1']]) df['data2'].groupby([df['key1']])
和以下代碼是等效的:
df['data1'].groupby([df['key1']]) df[['data2']].groupby([df['key1']]) df['data2'].groupby([df['key1']])
尤其對於大數據集,很可能只需要對部分列進行聚合。
例如,在前面那個數據集中,如果只需計算data2列的平均值並以DataFrame形式得到結果,代碼如下:
df.groupby(['key1', 'key2'])[['data2']].mean()
df.groupby(['key1', 'key2'])['data2'].mean()
這種索引操作所返回的對象是一個已分組的DataFrame(如果傳入的是列表或數組)或已分組的Series(如果傳入的是標量形式的單個列明):
7、通過字典或Series進行分組
除數組以外,分組信息還可以其他形式存在,來看一個DataFrame示例:
people = pd.DataFrame(np.random.randn(5, 5), columns=['a', 'b', 'c', 'd', 'e'], index=['Joe', 'Steve', 'Wes', 'Jim', 'Travis'] ) people
mapping = {'a':'red', 'b':'red', 'c':'blue', 'd':'blue', 'e':'red', 'f':'orange'} by_column = people.groupby(mapping, axis=1) by_column
by_column.sum()
Series也有同樣的功能,它可以被看做一個固定大小的映射。對於上面那個例子,如果用Series作為分組鍵,則pandas會檢查Series以確保其索引跟分組軸是對齊的:
map_series = pd.Series(mapping)
people.groupby(map_series, axis=1).count()
8、通過函數進行分組
相較於字典或Series,Python函數在定義分組映射關系時可以更有創意且更為抽象。任何被當做分組鍵的函數都會在各個索引值上被調用一次,其返回值就會被用作分組名稱。
具體點說,以DataFrame為例,其索引值為人的名字。假設你希望根據人名的長度進行分組,雖然可以求取一個字符串長度數組,但其實僅僅傳入len函數即可:
people.groupby(len).sum()
將函數跟數組、列表、字典、Series混合使用也不是問題,因為任何東西最終都會被轉換為數組:
key_list = ['one', 'one', 'one', 'two', 'two'] people.groupby([len, key_list]).min()
9、根據索引級別分組
層次化索引數據集最方便的地方在於它能夠根據索引級別進行聚合。要實現該目的,通過level關鍵字傳入級別編號或名稱即可:
columns = pd.MultiIndex.from_arrays( [['US', 'US', 'US', 'JP', 'JP'], [1 , 3, 5, 1, 3]], names=['cty', 'tenor']) columns
hier_df = pd.DataFrame(np.random.randn(4, 5), columns=columns)
hier_df
hier_df.groupby(level='cty', axis=1).count()