pandas中如何選取某幾列


本文介紹在 pandas 中如何讀取數據行列的方法。數據由行和列組成,在數據庫中,一般行被稱作記錄 (record),列被稱作字段 (field)。回顧一下我們對記錄和字段的獲取方式:一般情況下,字段根據名稱獲取,記錄根據篩選條件獲取。比如獲取 student_id 和 studnent_name 兩個字段;記錄篩選,比如 sales_amount 大於 10000 的所有記錄。對於熟悉 SQL 語句的人來說,就是下面的語句:

select student_id, student_name

from exam_scores

where chinese >= 90 and math >= 90

上面的 SQL 語句表示從考試成績表 (exam_scores) 中,篩選出語文和數學都大於或等於 90 分的所有學生 id 和 name。學習 pandas 數據獲取,推薦這種以數據處理的目標為導向的方式,而不是被動的按 pandas 提供的 loc, iloc的語法中,一條條順序學習。

本篇我們要分析的關於銷售數量和金額的一組數據,數據存放在 csv 文件中。示例數據我在 github 上放了一份,方便大家對照練習。

選擇列

以下兩種方法返回 Series 類型:

import pandas as pd

df = pd.read_csv('sample-salesv3.csv')

df.name

# 或者

df['name']

如果需要返回 DataFrame 格式,使用 list 作為參數。為了方便說明,給出在 jupyter notebook 中顯示的界面。

如果需要選取多列,傳給 DataFrame 一個包含列名的 list:

選擇行

假設我們要篩選 quantity < 0 的所有記錄:

按多條件篩選的處理方式。假設想篩選 quantity < 0 並且 unit price > 50 的所有記錄:

代碼:

criteria = (df['quantity'] < 0) & (df['unit price'] > 50)

df[criteria].head()

在 pandas 中,AND 條件的運算符為 & ,OR 條件的運算符為 |。假設想篩選所有 quantity > 30 或 unit price > 50 的記錄:

代碼:

criteria = (df['quantity'] > 30) | (df['unit price'] > 50)

df[criteria].head()

基於字符串的記錄篩選

如果篩選條件為基於字符串,可以使用用 Series.str.xxx 方法,主要有 startswith, endswith 和 contains等。舉一個例子,篩選出所有 name 含有 White 的記錄:

代碼:

criteria = df['name'].str.contains('White')

df[criteria].head()

這里解釋一下 pandas 布爾索引 (boolean indexing) 的概念。布爾索引的意思是首先構建一個與 DataFrame 的 index 長度相同的一個 boolean 向量 (boolean vector),這個向量中只包含 True 或者 False,布爾索引是一個 Series。然后 DataFrame 在篩選的時候,基於 DataFrame 的行索引,當布爾索引相同行索引所在行的 value 為 True 時,DataFrame 的這一行就包含在篩選之中,否則就排除在外。

為了能看得更加清晰,我們把上面的例子用另外一個方法來展示。創建一個新列:is_selected,這一列是一個布爾索引。

df['is_selected'] = df['name'].str.contains('White')

我們看到,is_selected 由 True 和 False 構成。

構建了 is_selected 列之后,通過df[df['name'].str.contains('White')] 篩選與下面的語句作用相同:

df[df['is_selected'] == True]

可以把 df['name'].str.contains('White') 這個布爾索引理解為構建了一個新列,然后基於這一列進行篩選。

基於 DateTime 類型的記錄篩選

如果列的類型是 DateTime 類型,比如本示例的 date 列。pandas 讀取 csv 文件時,date 列是 str 類型,所以我們先將 date 列轉換成 datetime 類型,然后基於 pandas 的 Timestamp 類型構建篩選條件。

# 將 date 列轉換成 datetime 類型

df['date'] = pd.to_datetime(df['date'])

# 篩選條件為日期大於 2014/4/1

criteria = df['date'] > pd.Timestamp(2014,4,1)

df[criteria].head()

同時選擇行和列

如果基於本篇所說的模式,同時選擇行和列,最簡單的方法是組合,比如先基於行構建 DataFrame,然后再基於這個 DataFrame 選取需要的列:

where = df['name'].str.contains('White')

cols = ['name', 'quantity', 'unit price', 'ext price']

df[where][cols].head()


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM