python學習筆記（17）urllib.parse模塊使用

url.parse :定義了url的標准接口，實現url的各種抽取

parse模塊的使用：url的解析，合並，編碼，解碼

使用時需導入

from urllib import parse

urlparse()實現URL的識別和分段

url = 'https://book.qidian.com/info/1004608738?wd=123&page=20#Catalog'
"""
url：待解析的url
scheme=''：假如解析的url沒有協議,可以設置默認的協議,如果url有協議，設置此參數無效
allow_fragments=True：是否忽略錨點,默認為True表示不忽略,為False表示忽略
"""
result = parse.urlparse(url=url,scheme='http',allow_fragments=True)

print(result)
print(result.scheme)
"""
(scheme='https', netloc='book.qidian.com', path='/info/1004608738', params='', query='wd=123&page=20', fragment='Catalog')
scheme:表示協議
netloc:域名
path:路徑
params:參數
query:查詢條件，一般都是get請求的url
fragment:錨點，用於直接定位頁
面的下拉位置，跳轉到網頁的指定位置
"""

urlunparse()可以實現URL的構造

url_parmas = ('https', 'book.qidian.com', '/info/1004608738', '', 'wd=123&page=20', 'Catalog')
#components:是一個可迭代對象，長度必須為6
result = parse.urlunparse(url_parmas)
print(result)

"""
https://book.qidian.com/info/1004608738?wd=123&page=20#Catalog
""

urljoin()傳遞一個基礎鏈接,根據基礎鏈接可以將某一個不完整的鏈接拼接為一個完整鏈接

base_url = 'https://book.qidian.com/info/1004608738?wd=123&page=20#Catalog'
sub_url = '/info/100861102'

full_url = parse.urljoin(base_url,sub_url)

print(full_url)

urlencode()將字典構形式的參數序列化為url編碼后的字符串（常用來構造get請求和post請求的參數）k1=v1&k2=v2

parmas = {
    'wd':'123',
    'page':20
}
parmas_str = parse.urlencode(parmas)

print(parmas_str)

"""
page=20&wd=123
"""

parse_qs()將url編碼格式的參數反序列化為字典類型
parmas_str = 'page=20&wd=123'
parmas = parse.parse_qs(parmas_str)
print(parmas)

"""
{'page': ['20'], 'wd': ['123']}
"""

 

quote()可以將中文轉換為URL編碼格式

word = '中國夢'
url = 'http://www.baidu.com/s?wd='+parse.quote(word)
print(parse.quote(word))
print(url)

"""
%E4%B8%AD%E5%9B%BD%E6%A2%A6
http://www.baidu.com/s?wd=%E4%B8%AD%E5%9B%BD%E6%A2%A6
"""
unquote:可以將URL編碼進行解碼
url = 'http://www.baidu.com/s?wd=%E4%B8%AD%E5%9B%BD%E6%A2%A6'
print(parse.unquote(url))
"""
http://www.baidu.com/s?wd=中國夢
"""