<?php
/*通過CURL模擬登錄並獲取數據
一些網站需要權限認證,必須登錄網站后,才能有效地抓取網頁並采集內容,
這就需要curl來設置cookie完成模擬登錄網頁,php的curl在抓取網頁內容方
面效率是比較高的,而且支持多線程,而file_get_contents()效率就要稍低
些。模擬登錄的代碼如下所示:
*/
function login_post($url, $cookie, $post){
$ch = curl_init(); //初始化curl模塊
curl_setopt($ch, CURLOPT_URL, $url); //登錄提交的地址
curl_setopt($ch, CURLOPT_HEADER, 0); //是否顯示頭信息
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 0); //是否自動顯示返回的信息
curl_setopt($ch, CURLOPT_COOKIEJAR, $cookie); //設置cookie信息保存在指定的文件夾中
curl_setopt($ch, CURLOPT_POST, 1); //以POST方式提交
curl_setopt($ch, CURLOPT_POSTFIELDS, http_build_query($post));//要執行的信息
curl_exec($ch); //執行CURL
curl_close($ch);
}
/*
上例中聲明的函數login_post(),需要提供一個url地址,一個保存cookie文
件,以及post的數據(用戶名和密碼等信息),注意php自帶的http_build_query()
函數可以將數組轉換成相連接的字符串,如果通過該函數登錄成功后,我們要獲取
登錄成功個頁面信息。聲明函數的代碼如下所示:
*/
function get_content($url, $cookie){
$ch = curl_init(); //初始化curl模塊
curl_setopt($ch, CURLOPT_URL, $url); //登錄提交的地址
curl_setopt($ch, CURLOPT_HEADER, 0); //是否顯示頭信息
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); //是否自動顯示返回的信息
curl_setopt($ch, CURLOPT_COOKIEJAR, $cookie);//設置cookie信息保存在指定的文件夾中
$rs = curl_exec($ch); //執行curl轉去頁面內容
curl_close($ch);
return $rs; //返回字符串
}
/*
get_content()中用curlopt_cookiefile可以讀取到登錄保存的cookie信
息 最后講頁面內容返回.我們的目的是獲取到模擬登錄后的信息,也就是
只有正常登錄成功后菜能獲取的有用的信息,下面舉例代碼
*/
$post = array(
'_username' => 'g@ydma.cn',
'_password' => '123456',
'_submit' => '登錄'
);
$url = "http://www.ydma.cn/login/check"; //登錄地址, 和原網站一致
$cookie = dirname(__FILE__).'/cookie_ydma.txt'; //設置cookie保存的路徑
$url2 = "http://www.ydma.cn/course/59"; //登錄后要獲取信息的地址
login_post($url, $cookie, $post); //調用模擬登錄
$content = get_content($url2, $cookie); //登錄后,調用get_content()函數獲取登錄后指定的頁面信息
@unlik($cookie); //刪除cookie文件
file_put_contents('save.txt', $content); //保存抓取的頁面內容