C#爬蟲（05）：AngleSharp解析html文檔

一、簡介

AngleSharp:https://github.com/AngleSharp/AngleSharp

AngleSharp中文官方文檔

• https://www.cnblogs.com/cgzl/p/8970582.html
• https://blog.csdn.net/qq_36051316/article/details/80002931
• https://www.cnblogs.com/rbzz/p/10037055.html

AngleSharp是一個.NET庫，使您能夠解析基於尖括號的超文本，例如HTML，SVG和MathML，該庫還支持未經驗證的XML，AngleSharp的一個重要方面是CSS也可以解析。
AngleSharp與類似的庫（例如HtmlAgilityPack）相比的優勢在於：

1. 公開的DOM使用的是W3C官方指定的API，即，甚至在AngleSharp中也可以使用querySelectorAll之類的東西。
2. 解析器還使用HTML 5.1規范，該規范定義了錯誤處理和元素校正。

AngleSharp庫專注於標准合規性，交互性和可擴展性。因此，它為使用C＃的Web開發人員提供了從在任何現代瀏覽器中使用DOM所獲得的所有可能性。

官方實例：https://github.com/AngleSharp/AngleSharp.Samples
這個簡單的示例將使用Wikipedia的網站進行數據檢索。

var config = Configuration.Default.WithDefaultLoader(); var address = "https://en.wikipedia.org/wiki/List_of_The_Big_Bang_Theory_episodes";
var context = BrowsingContext.New(config);
var document = await context.OpenAsync(address);
var cellSelector = "tr.vevent td:nth-child(3)";
var cells = document.QuerySelectorAll(cellSelector);
var titles = cells.Select(m => m.TextContent);

二、使用AngleSharp生成自動縮進格式化的html方法

1、操作DOM示例

//創建一個（可重用）解析器前端
var parser = new HtmlParser();
//html DOM節點
var source = "
<h1>Some example source</h1>
<p>This is a paragraph element</p>
";

//解析源文件
var document = parser.Parse(source);
//創建P標簽
var p = document.CreateElement("p");
p.TextContent = "This is another paragraph.";
//添加到DOM
document.Body.AppendChild(p);
//返回完整html
var html = document.DocumentElement.OuterHtml;
ViewData["html"] = html;

效果展示

2、更改標簽屬性

給標簽添加自定義屬性

var parser = new HtmlParser();
 //為以下源代碼生成HTML DOM
var document = parser.Parse("
<ul>
<li>First element</li>
<li>Second element</li>
<li>third</li>
<li class=’bla’>Last</li>
</ul>
");
//獲取所有li元素並將test屬性設置為值測試
var elements = document.QuerySelectorAll("li").Attr("test", "test");
 //元素仍然包含所有li元素
ViewData["html"] = document.DocumentElement.OuterHtml;

效果展示

3、使用AngleSharp生成html代碼自動縮進格式化

var parser = new HtmlParser();
var document = parser.ParseDocument(text);
using (var writer = new StringWriter())
{
    document.ToHtml(writer, new PrettyMarkupFormatter
                            {
                                Indentation = "\t",
                                NewLine = "\n"
                            });
    var indentedText = writer.ToString();
}

4、使用AngleSharp下載獲取html代碼

var requester = new DefaultHttpRequester("Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36");
requester.Headers.Add("Accept", "text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8");
requester.Headers.Add("Referer", "");
requester.Headers.Add("Accept-Language", "zh-Hans-CN,zh-Hans;q=0.8,en-US;q=0.5,en;q=0.3");
var context = BrowsingContext.New(Configuration.Default.WithLocaleBasedEncoding().WithDefaultLoader().WithDefaultCookies().With(requester));
//根據虛擬請求/響應模式創建文檔
var document = context.OpenAsync(url).Result;
using (var writer = new StringWriter())
{
    document.ToHtml(writer, new PrettyMarkupFormatter
                            {
                                Indentation = "\t",
                                NewLine = "\n"
                            });
    var indentedText = writer.ToString();
}

5、爬取豆瓣美女圖片

新建一個Belle類用於保存獲取的圖片信息

/// 
/// 解析html
/// 
public class Belle
{
        /// 
        /// 標題
        /// 
        public string Title { get; set; }
        /// 
        /// 圖片地址
        /// 
        public string ImageUrl { get; set; }
}

獲取html並解析

// 設置配置以支持文檔加載
var config = Configuration.Default.WithDefaultLoader();
// 豆瓣地址
var address = "https://www.dbmeinv.com/dbgroup/show.htm?cid=4";
// 請求豆辨網
var document = BrowsingContext.New(config).OpenAsync(address);
// 根據class獲取html元素
var cells = document.Result.QuerySelectorAll(".panel-body li");
// We are only interested in the text - select it with LINQ
List list = new List();
foreach (var item in cells)
{
     var belle = new Belle
     {
         Title= item.QuerySelector("img").GetAttribute("title"),
         ImageUrl= item.QuerySelector("img").GetAttribute("src")
     };
     list.Add(belle);
 }
ViewData["html"] = list;

效果如下