python爬蟲項目-爬取雪球網金融數據（關注、持續更新）

（一）python金融數據爬蟲項目

爬取目標：雪球網（起始url：https://xueqiu.com/hq#exchange=CN&firstName=1&secondName=1_0&page=1）

爬取內容：雪球網深滬股市情況

使用工具：requests庫實現發送請求、獲取響應。　　

　　　　　json格式的動態加載數據實現數據解析、提取。　　

　　　　　pymysql進行數據存儲

思路：對該網站的動態加載數據的請求方式進行控制變量的發送請求，最終得到實際有效的參數。

項目重點：使用抓包工具分析發送數據請求到json格式的cookie數據，這是此次動態抓取的重點

直接放代碼（詳細說明在注釋里，歡迎同行相互交流、學習~）：

import requests
import json
import pymysql

class mysql_conn(object):
    # 魔術方法, 初始化, 構造函數
    def __init__(self):
        self.db = pymysql.connect(host='127.0.0.1', user='root', password='abc123', port=3306, database='py1011')
        self.cursor = self.db.cursor()
    # 執行modify(修改)相關的操作
    def execute_modify_mysql(self, sql):
        self.cursor.execute(sql)
        self.db.commit()
    # 魔術方法, 析構化 ,析構函數
    def __del__(self):
        self.cursor.close()
        self.db.close()

headers = {
# 使用抓包工具分析發送數據請求到json格式的cookie數據，這是此次動態抓取的重點
    'Cookie':  xq_a_token=584d0cf8d5a5a9809761f2244d8d272bac729ed4; xq_r_token=98f278457fc4e1e5eb0846e36a7296e642b8138a; 
    'User-Agent': 'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/67.0.3396.99 Safari/537.36',
}
url = 'https://xueqiu.com/v4/statuses/public_timeline_by_category.json?since_id=-1&max_id=-1&count=10&category=111'

response = requests.get(url,headers=headers)

res_dict = json.loads(response.text)

list_lsit = res_dict['list']

db ={}
for list_item_dict in list_lsit:
    data_dict = json.loads(list_item_dict['data'])

    db['id'] = data_dict['id']
    db['title'] = data_dict['title']
    db['description'] = data_dict['description']
    db['target'] = data_dict['target']
    try:
        sql = 'insert into xueqiu (uid,title,description,target) values ("{id}","{title}","{description}","{traget}")'.fromart(**db)
        mc = mysql_conn()
        mc.execute_modify_mysql(sql)
    except:
        pass