一、介紹
定義了url的標准接口,實現url的各種抽取
parse模塊的作用:url的解析,合並,編碼,解碼
二、代碼
方法一:urlparse
實現url的識別和分段
from urllib import parse url = 'https://www.cnblogs.com/angelyan/' """ url:待解析的url scheme='':假如解析的url沒有協議,可以設置默認的協議,如果url有協議,設置此參數無效 allow_fragments=True:是否忽略錨點,默認為True表示不忽略,為False表示忽略 """ result = parse.urlparse(url=url,scheme='http',allow_fragments=True) print(result) print(result.scheme) """ (scheme='https', netloc='www.cnblogs.com', path='/angelyan/', params='', query='', fragment='') scheme:表示協議 netloc:域名 path:路徑 params:參數 query:查詢條件,一般都是get請求的url fragment:錨點,用於直接定位頁 面的下拉位置,跳轉到網頁的指定位置 """
方法二:urlunparse
可以實現url的構造
url_parmas = ('https', 'www.cnblogs.com', '/angelyan/', '', 'name=maple', 'log') #components:是一個可迭代對象,長度必須為6 result = parse.urlunparse(url_parmas) print(result) """ https://www.cnblogs.com/angelyan/?name=maple#log """
方法三:urljoin
傳遞一個基礎連接,根據基礎連接可以將某一個不完整的鏈接拼接為一個完整鏈接
base_url = 'https://www.cnblogs.com' sub_url = '/angelyan/?name=maple#log' full_url = parse.urljoin(base_url,sub_url) print(full_url) """ https://www.cnblogs.com/angelyan/?name=maple#log """
方法四:urlencode
將字典形式的參數序列化為url編碼后的字符串,常用來構造get請求和post請求的參數
parmas = { 'name':'maple', 'age':18 } parmas_str = parse.urlencode(parmas) print(parmas_str) """ name=maple&age=18 """ parmas_str = 'name=maple&age=18' # 將url編碼格式的參數反序列化為字典類型 parmas = parse.parse_qs(parmas_str) print(parmas) """ {'name': ['maple'], 'age': ['18']} """
方法五:quote
可以將中文轉換為url編碼格式
word = '中國夢' url = 'http://www.baidu.com/s?wd='+parse.quote(word) print(parse.quote(word)) print(url) """ %E4%B8%AD%E5%9B%BD%E6%A2%A6 http://www.baidu.com/s?wd=%E4%B8%AD%E5%9B%BD%E6%A2%A6 """ # unquote:可以將URL編碼進行解碼 url = 'http://www.baidu.com/s?wd=%E4%B8%AD%E5%9B%BD%E6%A2%A6' print(parse.unquote(url)) """ http://www.baidu.com/s?wd=中國夢 """