pd庫dataframe基本操作


一、查看數據(查看對象的方法對於Series來說同樣適用)

1.查看DataFrame前xx行或后xx行
a=DataFrame(data);
a.head(6)表示顯示前6行數據,若head()中不帶參數則會顯示全部數據。
a.tail(6)表示顯示后6行數據,若tail()中不帶參數則也會顯示全部數據。

2.查看DataFrame的index,columns以及values
a.index ; a.columns ; a.values 即可

3.describe()函數對於數據的快速統計匯總
a.describe()對每一列數據進行統計,包括計數,均值,std,各個分位數等。

4.對數據的轉置
a.T

5.對軸進行排序
a.sort_index(axis=1,ascending=False);
其中axis=1表示對所有的columns進行排序,下面的數也跟着發生移動。后面的ascending=False表示按降序排列,參數缺失時默認升序。

6.對DataFrame中的值排序
a.sort(columns='x')
即對a中的x這一列,從小到大進行排序。注意僅僅是x這一列,而上面的按軸進行排序時會對所有的columns進行操作。

二、選擇對象

1.選擇特定列和行的數據
a['x'] 那么將會返回columns為x的列,注意這種方式一次只能返回一個列。a.x與a['x']意思一樣。

取行數據,通過切片[]來選擇
如:a[0:3] 則會返回前三行的數據。

2.loc是通過標簽來選擇數據
a.loc['one']則會默認表示選取行為'one'的行;

a.loc[:,['a','b'] ] 表示選取所有的行以及columns為a,b的列;

a.loc[['one','two'],['a','b']] 表示選取'one'和'two'這兩行以及columns為a,b的列;

a.loc['one','a']與a.loc[['one'],['a']]作用是一樣的,不過前者只顯示對應的值,而后者會顯示對應的行和列標簽。

3.iloc則是直接通過位置來選擇數據
這與通過標簽選擇類似
a.iloc[1:2,1:2] 則會顯示第一行第一列的數據;(切片后面的值取不到)

a.iloc[1:2] 即后面表示列的值沒有時,默認選取行位置為1的數據;

a.iloc[[0,2],[1,2]] 即可以自由選取行位置,和列位置對應的數據。

4.使用條件來選擇
使用單獨的列來選擇數據
a[a.c>0] 表示選擇c列中大於0的數據

使用where來選擇數據
a[a>0] 表直接選擇a中所有大於0的數據

使用isin()選出特定列中包含特定值的行
a1=a.copy()
a1[a1['one'].isin(['2','3'])] 表顯示滿足條件:列one中的值包含'2','3'的所有行。

三、設置值(賦值)

賦值操作在上述選擇操作的基礎上直接賦值即可。
例a.loc[:,['a','c']]=9 即將a和c列的所有行中的值設置為9
a.iloc[:,[1,3]]=9 也表示將a和c列的所有行中的值設置為9

同時也依然可以用條件來直接賦值
a[a>0]=-a 表示將a中所有大於0的數轉化為負值

四、缺失值處理

在pandas中,使用np.nan來代替缺失值,這些值將默認不會包含在計算中。

1.reindex()方法
用來對指定軸上的索引進行改變/增加/刪除操作,這將返回原始數據的一個拷貝。
a.reindex(index=list(a.index)+['five'],columns=list(a.columns)+['d'])

a.reindex(index=['one','five'],columns=list(a.columns)+['d'])

即用index=[]表示對index進行操作,columns表對列進行操作。

** 2.對缺失值進行填充**
a.fillna(value=x)
表示用值為x的數來對缺失值進行填充

** 3.去掉包含缺失值的行**
a.dropna(how='any')
表示去掉所有包含缺失值的行

4.空數據行列的處理:

可以通過axis參數來刪除含有空數據的全部列
df4 = df4.dropna(axis=1)

# 可以通過subset參數來刪除在age和sex中含有空數據的全部行
df4 = df4.dropna(subset=["age", "sex"])
print(df4)
df4 = df4.dropna(subset=['age', 'body','home.dest'])

五、合並

1.contact
contact(a1,axis=0/1,keys=['xx','xx','xx',...]),其中a1表示要進行進行連接的列表數據,axis=1時表橫着對數據進行連接。axis=0或不指定時,表將數據豎着進行連接。a1中要連接的數據有幾個則對應幾個keys,設置keys是為了在數據連接以后區分每一個原始a1中的數據。

例:a1=[b['a'],b['c']]
result=pd.concat(a1,axis=1,keys=['1','2'])

2.Append 將一行或多行數據連接到一個DataFrame上
a.append(a[2:],ignore_index=True)
表示將a中的第三行以后的數據全部添加到a中,若不指定ignore_index參數,則會把添加的數據的index保留下來,若ignore_index=Ture則會對所有的行重新自動建立索引。

3.merge類似於SQL中的join
設a1,a2為兩個dataframe,二者中存在相同的鍵值,兩個對象連接的方式有下面幾種:
(1)內連接,pd.merge(a1, a2, on='key')
(2)左連接,pd.merge(a1, a2, on='key', how='left')
(3)右連接,pd.merge(a1, a2, on='key', how='right')
(4)外連接, pd.merge(a1, a2, on='key', how='outer')
至於四者的具體差別,具體學習參考sql中相應的語法。

刪除重復行

 

第一個想法:把所有重復的行去掉

第二個想法:只保留第一次出現的重復行

第三個想法:保留最后一次出現的重復行

這三個想法都可以用pandas中自帶一個方法實現。 DataFrame.drop_duplicates()

newdata.drop_duplicates(subset=['A','B','C','D'],keep=False)

上面這一句代碼就是把所有重復的行去掉,subset這個參數后面我會提到,keep這個參數就是選擇我們前面三個想法中的哪一個?

當keep=False時,就是去掉所有的重復行

當keep=‘first'時,就是保留第一次出現的重復行

當keep='last'時就是保留最后一次出現的重復行。(注意,這里的參數是字符串)

下面講一下subset這個參數。
在上面的場景中,我們對重復的定義是:在某一行,若A、B、C、D這四列如果都相同的話就是重復。
但是有時候,我們重復並不需要所有列都相同,我們只需要其中的某幾列相同就可以當作重復。因此subset這個參數就是來設置這個的。
舉個栗子,還是上面這個數據集,如果我們想把A列和B列中元素相同的行去掉,只保留第一次出現的行,要怎么做?

很簡單,

newdata.drop_duplicates(subset=['A','B'],keep='first')

 

從結果上我們可以看到,第0行和第1行由於A列B列相同,而且選擇保留第一次出現的行,所以第1行被去掉。
第2行和第5行的A列B列相同,保留第一次出現的行,所以第5行被去掉。

六、分組(groupby)

用pd.date_range函數生成連續指定天數的的日期
pd.date_range('20000101',periods=10)

def shuju(): data={ 'date':pd.date_range('20000101',periods=10), 'gender':np.random.randint(0,2,size=10), 'height':np.random.randint(40,50,size=10), 'weight':np.random.randint(150,180,size=10) } a=DataFrame(data) print(a) date gender height weight 0 2000-01-01 0 47 165 1 2000-01-02 0 46 179 2 2000-01-03 1 48 172 3 2000-01-04 0 45 173 4 2000-01-05 1 47 151 5 2000-01-06 0 45 172 6 2000-01-07 0 48 167 7 2000-01-08 0 45 157 8 2000-01-09 1 42 157 9 2000-01-10 1 42 164 用a.groupby('gender').sum()得到的結果為: #注意在python中groupby(''xx)后要加sum(),不然顯示 不了數據對象。 gender height weight 0 256 989 1 170 643 

此外用a.groupby('gender').size()可以對各個gender下的數目進行計數。

所以可以看到groupby的作用相當於:
按gender對gender進行分類,對應為數字的列會自動求和,而為字符串類型的列則不顯示;當然也可以同時groupby(['x1','x2',...])多個字段,其作用與上面類似。

七、Categorical按某一列重新編碼分類

如六中要對a中的gender進行重新編碼分類,將對應的0,1轉化為male,female,過程如下:

a['gender1']=a['gender'].astype('category') a['gender1'].cat.categories=['male','female'] #即將0,1先轉化為category類型再進行編碼。 print(a)得到的結果為: date gender height weight gender1 0 2000-01-01 1 40 163 female 1 2000-01-02 0 44 177 male 2 2000-01-03 1 40 167 female 3 2000-01-04 0 41 161 male 4 2000-01-05 0 48 177 male 5 2000-01-06 1 46 179 female 6 2000-01-07 1 42 154 female 7 2000-01-08 1 43 170 female 8 2000-01-09 0 46 158 male 9 2000-01-10 1 44 168 female 

所以可以看出重新編碼后的編碼會自動增加到dataframe最后作為一列。

八、相關操作

描述性統計:
1.a.mean() 默認對每一列的數據求平均值;若加上參數a.mean(1)則對每一行求平均值;

2.統計某一列x中各個值出現的次數:a['x'].value_counts();

3.對數據應用函數
a.apply(lambda x:x.max()-x.min())
表示返回所有列中最大值-最小值的差。

4.字符串相關操作
a['gender1'].str.lower() 將gender1中所有的英文大寫轉化為小寫,注意dataframe沒有str屬性,只有series有,所以要選取a中的gender1字段。

九、時間序列

在六中用pd.date_range('xxxx',periods=xx,freq='D/M/Y....')函數生成連續指定天數的的日期列表。
例如pd.date_range('20000101',periods=10),其中periods表示持續頻數;
pd.date_range('20000201','20000210',freq='D')也可以不指定頻數,只指定起始日期。

此外如果不指定freq,則默認從起始日期開始,頻率為day。其他頻率表示如下:


 
1.png

十、畫圖(plot)

在pycharm中首先要:import matplotlib.pyplot as plt a=Series(np.random.randn(1000),index=pd.date_range('20100101',periods=1000)) b=a.cumsum() b.plot() plt.show() #最后一定要加這個plt.show(),不然不會顯示出圖來。 
 
2.PNG

也可以使用下面的代碼來生成多條時間序列圖:

a=DataFrame(np.random.randn(1000,4),index=pd.date_range('20100101',periods=1000),columns=list('ABCD')) b=a.cumsum() b.plot() plt.show() 
 
3.png

十一、導入和導出文件

寫入和讀取excel文件
雖然寫入excel表時有兩種寫入xls和csv,但建議少使用csv,不然在表中調整數據格式時,保存時一直詢問你是否保存新格式,很麻煩。而在讀取數據時,如果指定了哪一張sheet,則在pycharm又會出現格式不對齊。

還有將數據寫入表格中時,excel會自動給你在表格最前面增加一個字段,對數據行進行編號。

a.to_excel(r'C:\\Users\\guohuaiqi\\Desktop\\2.xls',sheet_name='Sheet1') a=pd.read_excel(r'C:\\Users\\guohuaiqi\\Desktop\\2.xls','Sheet1',na_values=['NA']) 注意sheet_name后面的Sheet1中的首字母大寫;讀取數據時,可以指定讀取哪一張表中的數據,而 且對缺失值補上NA。 最后再附上寫入和讀取csv格式的代碼: a.to_csv(r'C:\\Users\\guohuaiqi\\Desktop\\1.csv',sheet_name='Sheet1') a=pd.read_csv(r'C:\\Users\\guohuaiqi\\Desktop\\1.csv',na_values=['NA'])

參考地址:https://www.jianshu.com/p/682c24aef525


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM