thinkphp5使用QueryList實現采集功能


  • QueryList是基於phpQuery的
  • 1.下載`QueryList.php`和`phpQuery.php`這兩個文件。
  • 2.在`extend`下新建`QL`目錄。
  • 3.將下載好的`QueryList.php`和`phpQuery.php`這兩個文件復制到`extend/QL`目錄。
  • 4.在QueryList.php頭部加入
5、在需要使用的控制器中加入
 
        
use QL\QueryList;
 
        
下面給出一個示例代碼:
 //需要采集的目標頁面
       $page = 'http://cms.querylist.cc/news/566.html';
//采集規則
       $reg = array(
           //采集文章標題
           'title' => array('h1','text'),
           //采集文章發布日期,這里用到了QueryList的過濾功能,過濾掉span標簽和a標簽
           'date' => array('.pt_info','text','-span -a',function($content){
               //用回調函數進一步過濾出日期
               $arr = explode(' ',$content);
               return $arr[0];
           }),
           //采集文章正文內容,利用過濾功能去掉文章中的超鏈接,但保留超鏈接的文字,並去掉版權、JS代碼等無用信息
           'content' => array('.post_content','html','a -.content_copyright -script',function($content){
               //利用回調函數下載文章中的圖片並替換圖片路徑為本地路徑
               //使用本例請確保當前目錄下有image文件夾,並有寫入權限
               //由於QueryList是基於phpQuery的,所以可以隨時隨地使用phpQuery,當然在這里也可以使用正則或者其它方式達到同樣的目的

               $doc=\phpQuery::newDocumentHTML($content);
               $imgs = pq($doc)->find('img');
               foreach ($imgs as $img) {
                   $src = 'http://cms.querylist.cc'.pq($img)->attr('src');
                   $localSrc = md5($src).'.jpg';
                   $stream = file_get_contents($src);
                   file_put_contents($localSrc,$stream);
                   pq($img)->attr('src',$localSrc);
               }
               return $doc->htmlOuter();
           })
       );
       $rang = '.content';
       $ql = QueryList::Query($page,$reg,$rang);
       $data = $ql->getData();
//打印結果
       print_r($data);
注意:在使用phpQuery類時需要在前面加上\,因為phpQuery.php中沒有使用命名空間,因為使用命名空間后,QueryList.php無法使用phpQuery類
QueryList參考文檔:https://doc.querylist.cc/


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM