Pandas里面常用的一些數據分析函數總結


import pandas as pd
import numpy as np

pandas 有兩個主要的數據結構:Series 和 DataFrame;
Series 是一個一維數組對象 ,它包含一組索引和一組數據,可以把它理解為一組帶索引的數組。
DataFrame 是一個表格型的數據結構。它提供有序的列和不同類型的列值。

df:Pandas DataFrame對象
s: Pandas Series對象

數據導入:


  pd.read_csv(filename):從csv文件中導入數據;
  pd.read_table(filename):從限定分隔符的文本文件導入數據;
  pd.read_excel(filename):從Excel文件導入數據;
  pd.read_sql(query,connection_object):從SQL表/庫中導入數據;
  pd.read_json(json_string):從JSON格式的字符串導入數據;
  pd.read_html(url):解析URLL,字符串或者HTML文件;
  pd.read_clipboard():從粘貼板獲取內容;
  pd.DataFrame(dict):從字典對象導入數據;

數據導出:

 

  df.to_csv(filename):導出數據到CSV文件;
  df.excel(filename):導出數據到EXCEl文件;
  df.to_sql(table_nname,connection_object):導出數據到SQL表;
  df.json(filename):以json格式導出數據到文本文件;

創建對象:


  pd.DataFrame(np.random.rand(20,5)):創建20行5列的隨即數組成的DataFrame對象;
  pd.Series(my_list):從可迭代對象my_list創建一個Series對象;
  df.index = pd.date_range('1900/1/30',periods=df.shape[0]):增加一個日期索引;

  index和reindex聯合使用很有用處,index可作為索引並且元素亂排序之后,所以跟着元素保持不變,因此,當重排元素時,只需要對index進行才重排即可:reindex。

 

數據查看:


  df.info():查看索引、數據類型和內存信息;
  df.tail():查看DataFrame對象的最后n行;
  df.shape():查看行數和列數;
  df.head():查看DataFrame對象的前n行;
  df.describe():查看數值型列的匯總統計;
  s.value_counts(dropna=False):查看Series對象的唯一值和計數;
  df.apply(pd.Seices.value_counts):查看DataFrame對象中每一列的唯一值和計數;

 

數據選取:


  df[col]:根據列名,並以Series的形式返回列;
  df[[col1, col2]]:以DataFrame形式返回多列;
  s.iloc[0]:按位置選取數據;
  s.loc['index_one']:按索引選取數據;
  df.iloc[0,:]:返回第一行;

 

數據清洗:

  df.columns = ['a','b','c']:重命名列名

  pd.isnull():檢查DataFrame對象中的空值,並返回一個Boolean數組;

  pd.notnull():檢查DataFrame對象中的非空值,並返回一個Boolean數組
  df.dropna():刪除所有包含空值的行;

  df.fillna(x):用x替換DataFrame對象中所有的空值;

  s.astype(float):將Series中的數據類型更改為float類型;

  s.replace(1,'one'):用‘one’代替所有等於1的值
  df.rename(columns=lambda x: x + 1):批量更改列名;

  df.set_index('column_one'):更改索引列;

 

數據處理:

  df[df[col] > 0.5]:選擇col列的值大於0.5的行;
  df.sort_values(col1):按照列col1排序數據,默認升序排列;
  df.groupby(col):返回一個按列col進行分組的Groupby對象;

  df.groupby(col1).agg(np.mean):返回按列col1分組的所有列的均值;

  df.pivot_table(index=col1, values=[col2,col3], aggfunc=max):創建一個按列col1進行分組,並計算col2和col3的最大值的數據透視表;

  data.apply(np.mean):對DataFrame中的每一列應用函數np.mean

 

數據合並:


  df1.append(df2):將df2中的行添加到df1的尾部
  df.concat([df1, df2],axis=1):將df2中的列添加到df1的尾部
  df1.join(df2,on=col1,how='inner'):對df1的列和df2的列執行SQL形式的join

 

數據統計:


  df.describe():查看數據值列的匯總統計;

  df.mean():返回所有列的均值

  df.corr():返回列與列之間的相關系數;

  df.count():返回每一列中的非空值的個數;

  df.max():返回每一列的最大值

  df.min():返回每一列的最小值;

  df.median():返回每一列的中位數;

  df.std():返回每一列的標准

 

Pandas支持的數據類型:


  int 整型
  float 浮點型
  bool 布爾類型
  object 字符串類型
  category 種類
  datetime 時間類型

 

其他:


  df.astypes: 數據格式轉換
  df.value_counts:相同數值的個數統計
  df.hist(): 畫直方圖
  df.get_dummies: one-hot編碼,將類型格式的屬性轉換成矩陣型的屬性。比如:三種顏色RGB,紅色編碼為[1 0 0];

后面會繼續更新


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM