PHP獲取網頁內容的幾種方法

方法1: 用file_get_contents以get方式獲取內容

<?php

$url='http://www.domain.com/?para=123';

$html= file_get_contents($url);

echo$html;

?>

 

方法2：用file_get_contents函數,以post方式獲取url

<?php

$url= 'http://www.domain.com/test.php?id=123';

$data= array('foo'=> 'bar');

$data= http_build_query($data);

 

$opts= array(

'http'=> array(

   'method'=> 'POST',

   'header'=>"Content-type: application/x-www-form-urlencoded\r\n"  .

                     "Content-Length: "  . strlen($data) . "\r\n",

   'content'=> $data

)

);

$ctx= stream_context_create($opts);

$html= @file_get_contents($url,'',$ctx);

 

如果需要再傳遞cookie數據,則把

'header'=>"Content-type: application/x-www-form-urlencoded\r\n"  .

                  "Content-Length: "  . strlen($data) . "\r\n",

修改為

'header'=>"Content-type: application/x-www-form-urlencoded\r\n"  .

                 "Content-Length: "  . strlen($data) . "\r\n".

                 "cookie:cookie1=c1;cookie2=c2\r\n";

即可

 

方法3: 用fopen打開url, 以get方式獲取內容

<?php

$fp= fopen($url,'r');

$header= stream_get_meta_data($fp);//獲取報頭信息

while(!feof($fp)) {

$result.= fgets($fp, 1024);

}

echo"url header: {$header} <br>":

echo"url body: $result";

fclose($fp);

?>

 

方法4: 用fopen打開url, 以post方式獲取內容

<?php

$data= array('foo2'=> 'bar2','foo3'=>'bar3');

$data= http_build_query($data);

 

$opts= array(

'http'=> array(

'method'=> 'POST',

'header'=>"Content-type: application/x-www-form-urlencoded\r\nCookie:cook1=c3;cook2=c4\r\n"  .

"Content-Length: "  . strlen($data) . "\r\n",

'content'=> $data

)

);

 

$context= stream_context_create($opts);

$html= fopen('http://www.test.com/zzzz.php?id=i3&id2=i4','rb',false, $context);

$w=fread($html,1024);

echo$w;

?>

 

方法5：用fsockopen函數打開url，以get方式獲取完整的數據，包括header和body

<?php

functionget_url ($url,$cookie=false)

{

$url= parse_url($url);

$query= $url[path]."?".$url[query];

echo"Query:".$query;

$fp= fsockopen($url[host],$url[port]?$url[port]:80 , $errno,$errstr, 30);

if(!$fp) {

returnfalse;

}else{

$request= "GET $query HTTP/1.1\r\n";

$request.= "Host: $url[host]\r\n";

$request.= "Connection: Close\r\n";

if($cookie)$request.="Cookie:   $cookie\n";

$request.="\r\n";

fwrite($fp,$request);

while(!@feof($fp)) {

$result.= @fgets($fp, 1024);

}

fclose($fp);

return$result;

}

}

//獲取url的html部分，去掉header

functionGetUrlHTML($url,$cookie=false)

{

$rowdata= get_url($url,$cookie);

if($rowdata)

{

$body=stristr($rowdata,"\r\n\r\n");

$body=substr($body,4,strlen($body));

return$body;

}

 

   returnfalse;

}

?>

 

方法6：用fsockopen函數打開url，以POST方式獲取完整的數據，包括header和body

<?php

functionHTTP_Post($URL,$data,$cookie,$referrer="")

{

 

   // parsing the given URL

$URL_Info=parse_url($URL);

 

   // Building referrer

if($referrer=="")// if not given use this script as referrer

$referrer="111";

 

   // making string from $data

foreach($dataas
$key=>$value)

$values[]="$key=".urlencode($value);

$data_string=implode("&",$values);

 

   // Find out which port is needed - if not given use standard (=80)

if(!isset($URL_Info["port"]))

$URL_Info["port"]=80;

 

   // building POST-request:

$request.="POST ".$URL_Info["path"]." HTTP/1.1\n";

$request.="Host: ".$URL_Info["host"]."\n";

$request.="Referer: $referer\n";

$request.="Content-type: application/x-www-form-urlencoded\n";

$request.="Content-length: ".strlen($data_string)."\n";

$request.="Connection: close\n";

 

   $request.="Cookie:   $cookie\n";

 

   $request.="\n";

$request.=$data_string."\n";

 

   $fp= fsockopen($URL_Info["host"],$URL_Info["port"]);

fputs($fp,$request);

while(!feof($fp)) {

$result.= fgets($fp, 1024);

}

fclose($fp);

 

   return$result;

}

 

?>

 

方法7:使用curl庫，使用curl庫之前，可能需要查看一下php.ini是否已經打開了curl擴展

<?php

$ch= curl_init();

$timeout= 5;

curl_setopt ($ch, CURLOPT_URL, 'http://www.domain.com/');

curl_setopt ($ch, CURLOPT_RETURNTRANSFER, 1);

curl_setopt ($ch, CURLOPT_CONNECTTIMEOUT, $timeout);

$file_contents= curl_exec($ch);

curl_close($ch);

 

echo$file_contents;

?>

　　

 

這里收集了3種利用php獲得網頁源代碼抓取網頁內容的方法，我們可以根據實際需要選用。

1、使用file_get_contents獲得網頁源代碼

這個方法最常用，只需要兩行代碼即可，非常簡單方便。

參考代碼：

• <?php
• $fh= file_get_contents('http://www.webkaka.com/');
• echo $fh;
• ?>

2、使用fopen獲得網頁源代碼

這個方法用的人也不少，不過代碼有點多。

參考代碼：

• <?php
• $fh = fopen('http://www.webkaka.com/', 'r');
• if($fh){
•     while(!feof($fh)) {
•         echo fgets($fh);
•     }
• }
• ?>

3、使用curl獲得網頁源代碼

 

 

 

使用curl獲得網頁源代碼的做法，往往是需要更高要求的人使用，例如當你需要在抓取網頁內容的同時，得到網頁header信息，還有ENCODING編碼的使用，USERAGENT的使用等等。

參考代碼一：

• <?php
• // 創建一個新cURL資源
• $ch = curl_init();
• // 設置URL和相應的選項
• curl_setopt($ch, CURLOPT_URL, "http://www.webkaka.com/");
• curl_setopt($ch, CURLOPT_HEADER, false);
• // 抓取URL並把它傳遞給瀏覽器
• $data = curl_exec($ch);
• echo $data;
• //關閉cURL資源，並且釋放系統資源
• curl_close($ch);
• ?>

參考代碼二：

• <?php
• $szUrl = "http://www.webkaka.com/";
• $UserAgent = 'Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 6.0; SLCC1; .NET CLR 2.0.50727; .NET CLR 3.0.04506; .NET CLR 3.5.21022; .NET CLR 1.0.3705; .NET CLR 1.1.4322)';
• $curl = curl_init();
• curl_setopt($curl, CURLOPT_URL, $szUrl);
• curl_setopt($curl, CURLOPT_HEADER, 0);  //0表示不輸出Header，1表示輸出
• curl_setopt($curl, CURLOPT_RETURNTRANSFER, 1);
• curl_setopt($curl, CURLOPT_SSL_VERIFYPEER, false);
• curl_setopt($curl, CURLOPT_SSL_VERIFYHOST, false);
• curl_setopt($curl, CURLOPT_ENCODING, '');
• curl_setopt($curl, CURLOPT_USERAGENT, $UserAgent);
• curl_setopt($curl, CURLOPT_FOLLOWLOCATION, 1);
• $data = curl_exec($curl);
• echo $data;
• //echo curl_errno($curl); //返回0時表示程序執行成功 如何從curl_errno返回值獲取錯誤信息