PHP網頁數據正則采集

$url ="https://********";
$contents = file_get_contents($url); //抓取頁面數據

//如果出現中文亂碼使用下面代碼 
//$getcontent = iconv("gb2312", "utf-8",$contents);
preg_match('/[0-9]{1,2}.[0-9]{4}/',$contents,$source_worth);//正則表達式篩選
preg_match('/[0-9]{4}-[0-9]{2}-[0-9]{2}/',$contents,$source_date);

 

$url_office="http://www.thfund.com.cn/website/funds/fundnet.jsp?fundcode=000962&channelid=2&categoryid=3036&childcategoryid=2999&pageno=0";
$str_office=file_get_contents($url_office); //抓取頁面數據
preg_match_all('/<td(S*?)[^>]*>[0-9]{4}-[0-9]{2}-[0-9]{2}<\/td>/',$str_office,$office_date);
preg_match_all('/<td(S*?)[^>]*>[0-9]{1,2}.[0-9]{4}<\/td>/',$str_office,$office_value);
$office_date[0]=str_replace('-','',$office_date[0]);//替換2015-09-20為20150920

 

一、 PHP抓取頁面的主要方法：

1. file()函數    

2. file_get_contents()函數  

3. fopen()->fread()->fclose()模式  

4.curl方式  

5. fsockopen()函數 socket模式  

6. 使用插件(如：http://sourceforge.net/projects/snoopy/)

7. 博主自用的一個抓取框架，感興趣的點這里查看博主釋放的抓取框架文檔

二、PHP解析html或xml代碼主要方式：

1. file()函數

<?php 
$url='http://t.qq.com'; 
$lines_array=file($url); 
$lines_string=implode('',$lines_array); 
echo htmlspecialchars($lines_string); 

2. file_get_contents()函數
使用file_get_contents和fopen必須空間開啟allow_url_fopen。方法：編輯php.ini，設置 allow_url_fopen = On，allow_url_fopen關閉時fopen和file_get_contents都不能打開遠程文件。

<?php 
$url='http://t.qq.com'; 
$lines_string=file_get_contents($url); 
echo htmlspecialchars($lines_string); 

3. fopen()->fread()->fclose()模式

<?php 
$url='http://t.qq.com'; 
$handle=fopen($url,"rb"); 
$lines_string=""; 
do{ 
    $data=fread($handle,1024);
     if(strlen($data)==0) {
        break;
    } 
    $lines_string.=$data; 
}while(true); 
fclose($handle); 
echo htmlspecialchars($lines_string);

4. curl方式:http://blog.csdn.net/yanhui_wei/article/details/21530811
使用curl必須空間開啟curl。方法：windows下修改php.ini，將extension=php_curl.dll前面的分號去掉，而且需 要拷貝ssleay32.dll和libeay32.dll到C:\WINDOWS\system32下；Linux下要安裝curl擴展。

<?php 
$url='http://t.qq.com'; 
$ch=curl_init(); 
$timeout=5; 
curl_setopt($ch, CURLOPT_URL, $url); 
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); 
curl_setopt($ch, CURLOPT_CONNECTTIMEOUT, $timeout); 
$lines_string=curl_exec($ch); 
curl_close($ch); 
echo htmlspecialchars($lines_string);

5. fsockopen()函數 socket模式
socket模式能否正確執行，也跟服務器的設置有關系，具體可以通過phpinfo查看服務器開啟了哪些通信協議，比如我的本地php socket沒開啟http，只能使用udp測試一下了。

<?php                                                                                                                                                
$fp = fsockopen("udp://127.0.0.1", 13, $errno, $errstr)；
if (!$fp) { 
    echo "ERROR: $errno - $errstr<br />\n"
} else { 
    fwrite($fp, "\n")
    echo fread($fp, 26)
    fclose($fp)
}  

6. 插件
網上應該有比較多的插件，snoopy插件是在網上搜到的，有興趣的可以研究一下