將一份一億多條數據的csv文件等分為10份,代碼如下所示:
import pandas as pd data = pd.read_csv('C:\\Users\\PycharmProjects\\SplitData\\data\\UserBehavior.csv') # 路徑則根據個人存放項目文件的習慣 num = 0 for i in range(1, 11): start = num num = num + int(data.shape[0] / 10) file = data.iloc[start:num,] file.to_csv("C:\\Users\\PycharmProjects\\SplitData\\newData\\" + str(i) + "_data.csv", index=False) # index=False是不想切分后的文件出現序號

注意:如果此時文件的路徑包含有中文,則必須改成以下的代碼:
import pandas as pd f = open('C:\\Users\\PycharmProjects\\數據切分\\data\\UserBehavior.csv') data = pd.read_csv(f) num = 0 for i in range(1, 11): start = num num = num + int(data.shape[0] / 10) file = data.iloc[start:num,] file.to_csv("C:\\Users\\PycharmProjects\\SplitData\\newData\\" + str(i) + "_data.csv", index=False)
但是使用這種方法調用文件進內存,加重了內存的負擔,兩次賦值相當於內存占用乘2,此方法不建議使用,還是將路徑改為英文名。