1. 前言
無論是學生還是工作,都會和ppt打交道,每次制作ppt都需要去找模板,有時候ppt模板還是收費的,這......,有點惡心,哈哈哈!!
今天教大家如何使用python爬蟲爬取1萬份『ppt模板』,以后制作ppt再也不怕了沒有模板了!!!
2. 相關介紹
1.模板來源
https://sc.chinaz.com/ppt/free_1.html
每頁20條,一共500頁,共10000份ppt模板!
2.爬蟲思路
先遍歷每一頁,獲取每一個ppt模板的url。
根據ppt模板的url獲取下載地址。
最后根據下載地址將文件下載到本地。
3. 爬取數據
1.遍歷每一頁
通過xpath可以定位到標簽class=bot-div,里面包含了ppt模板的url和名稱。
"""
李運辰 2021-3-6
公眾號:python爬蟲數據分析挖掘
"""
import requests
from lxml import etree
###遍歷每一頁
def getlist():
for k in range(1,501):
url = "https://sc.chinaz.com/ppt/free_"+str(k)+".html"
res = requests.get(url)
res.encoding = 'utf-8'
text = res.text
selector = etree.HTML(text)
list = selector.xpath('//*[@class="bot-div"]')
for i in list:
title = i.xpath('.//a/text()')[0].replace("\n", '').replace(" ", '')
href = i.xpath('.//a/@href')[0].replace("\n", '').replace(" ", '')
print(title)
print(href)
print("----------------")
遍歷時需要獲取每一個ppt模板url(title)和名稱(href)(方便下載時作為保存文件的命名)
2.獲取下載地址
以下面url為例
https://sc.chinaz.com/ppt/210305465710.htm
解析下載鏈接
通過xpath可以定位到標簽class=download-url,里面包含了四個下載地址,其實四個都一樣,選擇其中一個就可以了。
res = requests.get(url)
res.encoding = 'utf-8'
text = res.text
selector = etree.HTML(text)
href = selector.xpath('//*[@class="download-url"]/a/@href')[0]
print(href)
3.下載保存
根據拿到的下載地址下載文件保存到本地。
r = requests.get(href)
with open(str(title)+".rar", "wb") as code:
code.write(r.content)
ok,這樣就將ppt模板下載到本地了。
下面我們開始批量下載!
4.批量下載
##下載文件
def download(url,title):
res = requests.get(url)
res.encoding = 'utf-8'
text = res.text
selector = etree.HTML(text)
href = selector.xpath('//*[@class="download-url"]/a/@href')[0]
r = requests.get(href)
with open(str(title)+".rar", "wb") as code:
code.write(r.content)
print(str(title)+":下載完成!")
###遍歷每一頁
def getlist():
for k in range(1,501):
url = "https://sc.chinaz.com/ppt/free_"+str(k)+".html"
res = requests.get(url)
res.encoding = 'utf-8'
text = res.text
selector = etree.HTML(text)
list = selector.xpath('//*[@class="bot-div"]')
for i in list:
title = i.xpath('.//a/text()')[0].replace("\n", '').replace(" ", '')
href = i.xpath('.//a/@href')[0].replace("\n", '').replace(" ", '')
download("https://sc.chinaz.com/"+str(href), str(title))
這樣就可以將10000份ppt模板下載完畢!
4. 總結
通過python編程實現爬取10000份ppt模板素材,以后再也不用擔心制作ppt沒有模板了!
如果大家對本文代碼源碼感興趣,掃碼關注『Python爬蟲數據分析挖掘』后台回復:ppt模板 ,獲取完整代碼!
------------- 推薦文章 -------------
爬蟲入門篇
爬蟲框架篇
爬蟲反爬篇