import lxml
import requests
from lxml import etree
url = 'https://datachart.500.com/ssq/history/newinc/history.php?limit=5000&sort=0'
resp = requests.get(url)
hm = etree.HTML(resp.text)
# 在返回頁面內容的任意位置查找id=tdata的tbody標簽,並取其下所有的tr標簽內容,賦給trs列表
trs = hm.xpath("//tbody[@id='tdata']/tr")
f = open('data.csv', 'w') # 將攫取的數據存到data.csv文件
for tr in trs:
data_lst = tr.xpath('td/text()')
# 准備寫入文件,以備后用,csv文件是pandas能直接讀取的,最有效率
#去掉列表中的逗號和\xa0,使用的是列表推導式完成這個任務
data_lst = [x.replace(',','').replace('\xa0','') for x in data_lst]
f.write(','.join(data_lst) + '\n')
f.close()
用xpath獲取數據,並存成data.csv,便於以后用pandas讀取分析。
import pandas as pd
import matplotlib.pyplot as plt
df = pd.read_csv('data.csv', header = None)
# 提取紅球開獎號碼,在1-6列上
red_ball = df.loc[:,1:6] # 紅球開獎號碼在第1-6列上,提取所有行
# 統計紅球各個開獎號碼出現的次數
red_count = pd.value_counts(red_ball.values.flatten())
# 提取藍球出現的次數
blue_ball = df.loc[:, 7]
# 統計藍球各個開獎號碼出現的次數
blue_count = pd.value_counts(blue_ball.values.flatten())
# 可視化
plt.pie(red_count, labels = red_count.index, radius = 1, wedgeprops = {'width':0.3})
plt.pie(blue_count, labels = blue_count.index, radius = 0.5, wedgeprops = {'width': 0.3})
plt.show()

