Python自動化批量下載網上的論文

在科研學習的過程中，我們難免需要查詢相關的文獻資料，而想必很多小伙伴都知道SCI-HUB，此乃一大神器，它可以幫助我們搜索相關論文並下載其原文。可以說，SCI-HUB造福了眾多科研人員，用起來也是“美滋滋”。

一、代碼分析

代碼分析的詳細思路跟以往依舊如此雷同，逃不過的還是：抓包分析->模擬請求->代碼整合。

1. 搜索論文

通過論文的URL、PMID、DOI號或者論文標題等搜索到對應的論文，並通過bs4庫找出PDF原文的鏈接地址，代碼如下：

def search_article(artName):
    '''
    搜索論文
    ---------------
    輸入：論文名
    ---------------
    輸出：搜索結果（如果沒有返回""，否則返回PDF鏈接）
    '''
    url = 'https://www.sci-hub.ren/'
    headers = {'User-Agent':'Mozilla/5.0 (Windows NT 6.3; Win64; x64; rv:84.0) Gecko/20100101 Firefox/84.0',
               'Accept':'text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,*/*;q=0.8',
               'Accept-Language':'zh-CN,zh;q=0.8,zh-TW;q=0.7,zh-HK;q=0.5,en-US;q=0.3,en;q=0.2',
               'Accept-Encoding':'gzip, deflate, br',
               'Content-Type':'application/x-www-form-urlencoded',
               'Content-Length':'123',
               'Origin':'https://www.sci-hub.ren',
               'Connection':'keep-alive',
               'Upgrade-Insecure-Requests':'1'}
    data = {'sci-hub-plugin-check':'',
            'request':artName}
    res = requests.post(url, headers=headers, data=data)
    html = res.text
    soup = BeautifulSoup(html, 'html.parser')
    iframe = soup.find(id='pdf')
    if iframe == None: # 未找到相應文章
        return ''
    else:
        downUrl = iframe['src']
        if 'http' not in downUrl:
            downUrl = 'https:'+downUrl
        return downUrl

 

2. 下載論文

得到了論文的鏈接地址之后，只需要通過requests發送一個請求，即可將其下載：

def download_article(downUrl):
    '''
    根據論文鏈接下載文章
    ----------------------
    輸入：論文鏈接
    ----------------------
    輸出：PDF文件二進制
    '''
    headers = {'User-Agent':'Mozilla/5.0 (Windows NT 6.3; Win64; x64; rv:84.0) Gecko/20100101 Firefox/84.0',
               'Accept':'text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,*/*;q=0.8',
               'Accept-Language':'zh-CN,zh;q=0.8,zh-TW;q=0.7,zh-HK;q=0.5,en-US;q=0.3,en;q=0.2',
               'Accept-Encoding':'gzip, deflate, br',
               'Connection':'keep-alive',
               'Upgrade-Insecure-Requests':'1'}
    res = requests.get(downUrl, headers=headers)
    return res.content

 

很多人學習python，不知道從何學起。
很多人學習python，掌握了基本語法過后，不知道在哪里尋找案例上手。
很多已經做案例的人，卻不知道如何去學習更加高深的知識。
那么針對這三類人，我給大家提供一個好的學習平台，免費領取視頻教程，電子書籍，以及課程的源代碼！
QQ群：568668415

二、完整代碼

將上述兩個函數整合之后，我的完整代碼如下：

# -*- coding: utf-8 -*-
"""
Created on Tue Jan  5 16:32:22 2021

@author: kimol_love
"""
import os
import time
import requests
from bs4 import BeautifulSoup

def search_article(artName):
    '''
    搜索論文
    ---------------
    輸入：論文名
    ---------------
    輸出：搜索結果（如果沒有返回""，否則返回PDF鏈接）
    '''
    url = 'https://www.sci-hub.ren/'
    headers = {'User-Agent':'Mozilla/5.0 (Windows NT 6.3; Win64; x64; rv:84.0) Gecko/20100101 Firefox/84.0',
               'Accept':'text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,*/*;q=0.8',
               'Accept-Language':'zh-CN,zh;q=0.8,zh-TW;q=0.7,zh-HK;q=0.5,en-US;q=0.3,en;q=0.2',
               'Accept-Encoding':'gzip, deflate, br',
               'Content-Type':'application/x-www-form-urlencoded',
               'Content-Length':'123',
               'Origin':'https://www.sci-hub.ren',
               'Connection':'keep-alive',
               'Upgrade-Insecure-Requests':'1'}
    data = {'sci-hub-plugin-check':'',
            'request':artName}
    res = requests.post(url, headers=headers, data=data)
    html = res.text
    soup = BeautifulSoup(html, 'html.parser')
    iframe = soup.find(id='pdf')
    if iframe == None: # 未找到相應文章
        return ''
    else:
        downUrl = iframe['src']
        if 'http' not in downUrl:
            downUrl = 'https:'+downUrl
        return downUrl
        
def download_article(downUrl):
    '''
    根據論文鏈接下載文章
    ----------------------
    輸入：論文鏈接
    ----------------------
    輸出：PDF文件二進制
    '''
    headers = {'User-Agent':'Mozilla/5.0 (Windows NT 6.3; Win64; x64; rv:84.0) Gecko/20100101 Firefox/84.0',
               'Accept':'text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,*/*;q=0.8',
               'Accept-Language':'zh-CN,zh;q=0.8,zh-TW;q=0.7,zh-HK;q=0.5,en-US;q=0.3,en;q=0.2',
               'Accept-Encoding':'gzip, deflate, br',
               'Connection':'keep-alive',
               'Upgrade-Insecure-Requests':'1'}
    res = requests.get(downUrl, headers=headers)
    return res.content

def welcome():
    '''
    歡迎界面
    '''
    os.system('cls')
    title = '''
               _____  _____ _____      _    _ _    _ ____  
              / ____|/ ____|_   _|    | |  | | |  | |  _ \ 
             | (___ | |      | |______| |__| | |  | | |_) |
              \___ \| |      | |______|  __  | |  | |  _ < 
              ____) | |____ _| |_     | |  | | |__| | |_) |
             |_____/ \_____|_____|    |_|  |_|\____/|____/
                

            '''
    print(title)
    
if __name__ == '__main__':
    while True:
        welcome()
        request = input('請輸入URL、PMID、DOI或者論文標題：')
        print('搜索中...')
        downUrl = search_article(request)
        if downUrl == '':
            print('未找到相關論文，請重新搜索！')
        else:
            print('論文鏈接：%s'%downUrl)
            print('下載中...')
            pdf = download_article(downUrl)
            with open('%s.pdf'%request, 'wb') as f:
                f.write(pdf)
            print('---下載完成---')
        time.sleep(0.8)

寫在最后

當然，我的代碼僅供參考，小伙伴們完全可以根據自己的需要進行相應的調整和改動，這樣才能更多地發揮其價值。

 

以下內容無用，為本篇博客被搜索引擎抓取使用
(*￣︶￣)(*￣︶￣)(*￣︶￣)(*￣︶￣)(*￣︶￣)(*￣︶￣)(*￣︶￣)(*￣︶￣)
python 是干什么的 零基礎學 python 要多久 python 為什么叫爬蟲
python 爬蟲菜鳥教程 python 爬蟲萬能代碼 python 爬蟲怎么掙錢
python 基礎教程 網絡爬蟲 python python 爬蟲經典例子
python 爬蟲
(*￣︶￣)(*￣︶￣)(*￣︶￣)(*￣︶￣)(*￣︶￣)(*￣︶￣)(*￣︶￣)(*￣︶￣)
以上內容無用，為本篇博客被搜索引擎抓取使用