jsoup教程


jsoup是一款Java的HTML解析器,主要用來對HTML解析。官網

在爬蟲的時候,當我們用HttpClient之類的框架,獲取到網頁源碼之后,需要從網頁源碼中取出我們想要的內容,

就可以使用jsoup這類HTML解析器了。可以非常輕松的實現。

雖然jsoup也支持從某個地址直接去爬取網頁源碼,但是只支持HTTP,HTTPS協議,支持不夠豐富。

所以,主要還是用來對HTML進行解析。

其中,要被解析的HTML可以是一個HTML的字符串,可以是一個URL,可以是一個文件。

org.jsoup.Jsoup把輸入的HTML轉換成一個org.jsoup.nodes.Document對象,然后從Document對象中取出想要的元素。

org.jsoup.nodes.Document繼承了org.jsoup.nodes.Element,Element又繼承了org.jsoup.nodes.Node類。里面提供了豐富的方法來獲取HTML的元素。

從URL獲取HTML來解析

Document doc = Jsoup.connect("http://www.baidu.com/").get();
String title = doc.title();

 

其中Jsoup.connect("xxx")方法返回一個org.jsoup.Connection對象。
在Connection對象中,我們可以執行get或者post來執行請求。但是在執行請求之前,
我們可以使用Connection對象來設置一些請求信息。比如:頭信息,cookie,請求等待時間,代理等等來模擬瀏覽器的行為。

Document doc = Jsoup.connect("http://example.com")
  .data("query", "Java")
  .userAgent("Mozilla")
  .cookie("auth", "token")
  .timeout(3000)
  .post();

 

 

獲得Document對象后,接下來就是解析Document對象,並從中獲取我們想要的元素了。

Document中提供了豐富的方法來獲取指定元素。

使用DOM的方式來取得

getElementById(String id):通過id來獲取
  getElementsByTag(String tagName):通過標簽名字來獲取
  getElementsByClass(String className):通過類名來獲取
  getElementsByAttribute(String key):通過屬性名字來獲取
  getElementsByAttributeValue(String key, String value):通過指定的屬性名字,屬性值來獲取
  getAllElements():獲取所有元素

通過類似於css或jQuery的選擇器來查找元素

使用的是Element類的下記方法:

public Elements select(String cssQuery)

通過傳入一個類似於CSS或jQuery的選擇器字符串,來查找指定元素。

例子:

File input = new File("/tmp/input.html");
Document doc = Jsoup.parse(input, "UTF-8", "http://example.com/");

Elements links = doc.select("a[href]"); //帶有href屬性的a元素
Elements pngs = doc.select("img[src$=.png]");
  //擴展名為.png的圖片

Element masthead = doc.select("div.masthead").first();
  //class等於masthead的div標簽

Elements resultLinks = doc.select("h3.r > a"); //在h3元素之后的a元素

 

選擇器的更多語法(可以在org.jsoup.select.Selector中查看到更多關於選擇器的語法):

tagname: 通過標簽查找元素,比如:a
  ns|tag: 通過標簽在命名空間查找元素,比如:可以用 fb|name 語法來查找 <fb:name> 元素
  #id: 通過ID查找元素,比如:#logo
  .class: 通過class名稱查找元素,比如:.masthead
  [attribute]: 利用屬性查找元素,比如:[href]
  [^attr]: 利用屬性名前綴來查找元素,比如:可以用[^data-] 來查找帶有HTML5 Dataset屬性的元素
  [attr=value]: 利用屬性值來查找元素,比如:[width=500]
  [attr^=value], [attr$=value], [attr=value]: 利用匹配屬性值開頭、結尾或包含屬性值來查找元素,比如:[href=/path/]
  [attr~=regex]: 利用屬性值匹配正則表達式來查找元素,比如: img[src~=(?i).(png|jpe?g)]
  *: 這個符號將匹配所有元素

Selector選擇器組合使用
  el#id: 元素+ID,比如: div#logo
  el.class: 元素+class,比如: div.masthead
  el[attr]: 元素+class,比如: a[href]
  任意組合,比如:a[href].highlight
  ancestor child: 查找某個元素下子元素,比如:可以用.body p 查找在"body"元素下的所有 p元素
  parent > child: 查找某個父元素下的直接子元素,比如:可以用div.content > p 查找 p 元素,也可以用body > * 查找body標簽下所有直接子元素
  siblingA + siblingB: 查找在A元素之前第一個同級元素B,比如:div.head + div
  siblingA ~ siblingX: 查找A元素之前的同級X元素,比如:h1 ~ p
  el, el, el:多個選擇器組合,查找匹配任一選擇器的唯一元素,例如:div.masthead, div.logo

偽選擇器selectors
  :lt(n): 查找哪些元素的同級索引值(它的位置在DOM樹中是相對於它的父節點)小於n,比如:td:lt(3) 表示小於三列的元素
  :gt(n):查找哪些元素的同級索引值大於n,比如: div p:gt(2)表示哪些div中有包含2個以上的p元素
  :eq(n): 查找哪些元素的同級索引值與n相等,比如:form input:eq(1)表示包含一個input標簽的Form元素
  :has(seletor): 查找匹配選擇器包含元素的元素,比如:div:has(p)表示哪些div包含了p元素
  :not(selector): 查找與選擇器不匹配的元素,比如: div:not(.logo) 表示不包含 class="logo" 元素的所有 div 列表
  :contains(text): 查找包含給定文本的元素,搜索不區分大不寫,比如: p:contains(jsoup)
  :containsOwn(text): 查找直接包含給定文本的元素
  :matches(regex): 查找哪些元素的文本匹配指定的正則表達式,比如:div:matches((?i)login)
  :matchesOwn(regex): 查找自身包含文本匹配指定正則表達式的元素
注意  :上述偽選擇器索引是從0開始的,也就是說第一個元素索引值為0,第二個元素index為1等

通過上面的選擇器,我們可以取得一個Elements對象,它繼承了ArrayList對象,里面放的全是Element對象。

接下來我們要做的就是從Element對象中,取出我們真正需要的內容。

通常有下面幾種方法:

Element.text()

這個方法用來取得一個元素中的文本。

Element.html()或Node.outerHtml()

這個方法用來取得一個元素中的html內容

Node.attr(String key)

獲得一個屬性的值,例如取得超鏈接<a href="">中href的值

 

https://www.cnblogs.com/gaojinshun/p/15434421.html


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM