python 小技巧


計算時間差,時間加減運算代碼

最近在學習數據預處理,碰到日期型數據不會處理,上網查了下:

Q:如何方便的計算兩個時間的差,如兩個時間相差幾天,幾小時等
A:使用datetime模塊可以很方便的解決這個問題,舉例如下:

import datetime d1 = datetime.datetime(2009, 3, 23) d2 = datetime.datetime(2009, 10, 7) dayCount = (d1 - d2).days

python計算兩個時間之間的秒數

import datetime starttime = datetime.datetime.now() #long running endtime = datetime.datetime.now() print (endtime - starttime).seconds

計算時間差很簡單,我們再看下時間相加

d1 = datetime.datetime.now() d3 = d1 + datetime.timedelta(days=10) print d3.ctime()

上例演示了計算當前時間向后10天的時間。參數可以是days, hours,minutes,seconds,microseconds,如果是負數就是向前多少時間其本上常用的類: datetimetimedelta兩個。它們之間可以相互加減。每個類都有一些方法和屬性可以查看具體的值,如 datetime可以查看:天數(day),小時數(hour),星期幾(weekday())等;timedelta可以查看:天數(days),秒數 (seconds)等

 

 

# python 查看dataframe每列有多少個不同元素

比如列名為type
data['type'].unique() 返回了list,里面存放的內容即為各個元素

merge的用法

pandas的merge方法提供了一種類似於SQL的內存鏈接操作,官網文檔提到它的性能會比其他開源語言的數據操作(例如R)要高效。

和SQL語句的對比可以看這里

merge的參數

on:列名,join用來對齊的那一列的名字,用到這個參數的時候一定要保證左表和右表用來對齊的那一列都有相同的列名。

left_on:左表對齊的列,可以是列名,也可以是和dataframe同樣長度的arrays。

right_on:右表對齊的列,可以是列名,也可以是和dataframe同樣長度的arrays。

left_index/ right_index: 如果是True的haunted以index作為對齊的key

how:數據融合的方法。

sort:根據dataframe合並的keys按字典順序排序,默認是,如果置false可以提高表現。

merge的默認合並方法:
    merge用於表內部基於 index-on-index 和 index-on-column(s) 的合並,但默認是基於index來合並。

1.1 復合key的合並方法

使用merge的時候可以選擇多個key作為復合可以來對齊合並。

1.1.1 通過on指定數據合並對齊的列

In [41]: left = pd.DataFrame({'key1': ['K0', 'K0', 'K1', 'K2'], ....: 'key2': ['K0', 'K1', 'K0', 'K1'], ....: 'A': ['A0', 'A1', 'A2', 'A3'], ....: 'B': ['B0', 'B1', 'B2', 'B3']}) ....: In [42]: right = pd.DataFrame({'key1': ['K0', 'K1', 'K1', 'K2'], ....: 'key2': ['K0', 'K0', 'K0', 'K0'], ....: 'C': ['C0', 'C1', 'C2', 'C3'], ....: 'D': ['D0', 'D1', 'D2', 'D3']}) ....: In [43]: result = pd.merge(left, right, on=['key1', 'key2'])

這里寫圖片描述 
沒有指定how的話默認使用inner方法。

how的方法有:

left

只保留左表的所有數據

In [44]: result = pd.merge(left, right, how='left', on=['key1', 'key2'])

這里寫圖片描述

只保留右表的所有數據

In [45]: result = pd.merge(left, right, how='right', on=['key1', 'key2'])

這里寫圖片描述

outer

保留兩個表的所有信息

In [46]: result = pd.merge(left, right, how='outer', on=['key1', 'key2'])

這里寫圖片描述

inner

只保留兩個表中公共部分的信息

In [47]: result = pd.merge(left, right, how='inner', on=['key1', 'key2'])

這里寫圖片描述

1.2 indicator

v0.17.0 版本的pandas開始還支持一個indicator的參數,如果置True的時候,輸出結果會增加一列 ’ _merge’。_merge列可以取三個值

  1. left_only 只在左表中
  2. right_only 只在右表中
  3. both 兩個表中都有

1.3 join方法

dataframe內置的join方法是一種快速合並的方法。它默認以index作為對齊的列。

1.3.1 how 參數

join中的how參數和merge中的how參數一樣,用來指定表合並保留數據的規則。

具體可見前面的 how 說明。

1.3.2 on 參數

在實際應用中如果右表的索引值正是左表的某一列的值,這時可以通過將 右表的索引 和 左表的列 對齊合並這樣靈活的方式進行合並。

ex 1

In [59]: left = pd.DataFrame({'A': ['A0', 'A1', 'A2', 'A3'], ....: 'B': ['B0', 'B1', 'B2', 'B3'], ....: 'key': ['K0', 'K1', 'K0', 'K1']}) ....: In [60]: right = pd.DataFrame({'C': ['C0', 'C1'], ....: 'D': ['D0', 'D1']}, ....: index=['K0', 'K1']) ....: In [61]: result = left.join(right, on='key')

這里寫圖片描述

1.3.3 suffix后綴參數

如果和表合並的過程中遇到有一列兩個表都同名,但是值不同,合並的時候又都想保留下來,就可以用suffixes給每個表的重復列名增加后綴。

In [79]: result = pd.merge(left, right, on='k', suffixes=['_l', '_r'])

這里寫圖片描述

* 另外還有lsuffix 和 rsuffix分別指定左表的后綴和右表的后綴。

1.4 組合多個dataframe

一次組合多個dataframe的時候可以傳入元素為dataframe的列表或者tuple。一次join多個,一次解決多次煩惱~

In [83]: right2 = pd.DataFrame({'v': [7, 8, 9]}, index=['K1', 'K1', 'K2']) In [84]: result = left.join([right, right2])

這里寫圖片描述

1.5 更新表的nan值

1.5.1 combine_first

如果一個表的nan值,在另一個表相同位置(相同索引和相同列)可以找到,則可以通過combine_first來更新數據

1.5.2 update

如果要用一張表中的數據來更新另一張表的數據則可以用update來實現

1.5.3 combine_first 和 update 的區別

使用combine_first會只更新左表的nan值。而update則會更新左表的所有能在右表中找到的值(兩表位置相對應)。


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM