Python中Json對象處理的jsonpath-rw

這兩天在寫一個爬蟲，需要從網站返回的json數據提取一些有用的數據。

向url發起請求，返回的是response，在python3中，response.content是二進制bytes類型的，需要用decode()轉成unicode的str類型

#如果用的requests發的請求
import json
response = requests.get(url,headers=self.headers)
response = response.content.decode()
response = json.loads(response) #轉成json對象，在python里也就是dict類型

-----------------------------------------------------------------------------------
#如果用的scrapy.Request發的請求
import json
import scrapy
response = scrapy.Request(url,headers=self.headers)
response = response.text.decode()
response = json.loads(response) #轉成json對象，在python里也就是dict類型

 

也就是說處理json對象其實可以和處理dict一樣，那就要用到很多中括號，而且取值也只能取單個精確的值。一點都不靈活

用過xpath和css選擇器的人當然會覺得這種方法很笨重。

 

而恰巧json也有類型的選擇器：jsonpath

但是需要注意的是，python的庫並不是jsonpath（還真有這個庫，但是不知如何使用，官方也沒有給出python的使用文檔），真正在python中可以使用的庫是:jsonpath-rw

官方文檔：https://pypi.python.org/pypi/jsonpath-rw （更多jsonpath的語法請點擊鏈接）

 

 

下面只列下簡單常用的基本方法

使用示例

>>> from jsonpath_rw import jsonpath, parse
>>> json_obj = {"student":[{"male":176,"female":162},{"male":174,"female":159}]}
>>> jsonpath_expr = parse("student[*].male")
>>> male = jsonpath_expr.find(json_obj)
>>> male #返回的是list,但是不是我們想要的值
[DatumInContext(value=176, path=Fields('male'), context=DatumInContext(value={'male': 176, 'female': 162}, path=<jsonpath_rw.jsonpath.Index object at 0x000001C6B95109B0>, context=DatumInContext(value=[{'male': 176, 'female': 162}, {'male': 174, 'female': 159}], path=Fields('student'), context=DatumInContext(value={'student': [{'male': 176, 'female': 162}, {'male': 174, 'female': 159}]}, path=This(), context=None)))), DatumInContext(value=174, path=Fields('male'), context=DatumInContext(value={'male': 174, 'female': 159}, path=<jsonpath_rw.jsonpath.Index object at 0x000001C6B9510588>, context=DatumInContext(value=[{'male': 176, 'female': 162}, {'male': 174, 'female': 159}], path=Fields('student'), context=DatumInContext(value={'student': [{'male': 176, 'female': 162}, {'male': 174, 'female': 159}]}, path=This(), context=None))))]

#想要獲取值，要用如下方法
>>> [match.value for match in male]
[176, 174]