- 相關(guān)推薦
PHP的cURL庫有效地抓網(wǎng)頁的技巧
PHP獨(dú)特的語法混合了C、Java、Perl以及PHP自創(chuàng)的語法。它可以比CGI或者Perl更快速地執(zhí)行動態(tài)網(wǎng)頁。用PHP做出的動態(tài)頁面與其他的編程語言相比,PHP是將程序嵌入到HTML文檔中去執(zhí)行,執(zhí)行效率比完全生成HTML標(biāo)記的CGI要高許多;PHP還可以執(zhí)行編譯后代碼,編譯可以達(dá)到加密和優(yōu)化代碼運(yùn)行,使代碼運(yùn)行更快。以下是小編為大家搜索整理PHP的cURL庫有效地抓網(wǎng)頁,希望能給大家?guī)韼椭?更多精彩內(nèi)容請及時關(guān)注我們應(yīng)屆畢業(yè)生考試網(wǎng)!
啟用 cURL 設(shè)置
首先,我們得先要確定我們的PHP是否開啟了這個庫,你可以通過使用php_info()函數(shù)來得到這一信息。
phpinfo();
?>
如果你可以在網(wǎng)頁上看到下面的輸出,那么表示cURL庫已被開啟。
如果你看到的話,那么你需要設(shè)置你的PHP并開啟這個庫。如果你是在Windows平臺下,那么非常簡單,你需要改一改你的php.ini文件的設(shè)置,找到php_curl.dll,并取消前面的分號注釋就行了。如下所示:
//取消下在的注釋
extension=php_curl.dll
如果你是在Linux下面,那么,你需要重新編譯你的PHP了,編輯時,你需要打開編譯參數(shù)——在configure命令上加上“–with-curl” 參數(shù)。
一個小示例
如果一切就緒,下面是一個小例程:
// 初始化一個 cURL 對象
$curl = curl_init();
// 設(shè)置你需要抓取的URL
curl_setopt($curl, CURLOPT_URL, 'http://cocre.com');
// 設(shè)置header
curl_setopt($curl, CURLOPT_HEADER, 1);
// 設(shè)置cURL 參數(shù),要求結(jié)果保存到字符串中還是輸出到屏幕上。
curl_setopt($curl, CURLOPT_RETURNTRANSFER, 1);
// 運(yùn)行cURL,請求網(wǎng)頁
$data = curl_exec($curl);
// 關(guān)閉URL請求
curl_close($curl);
// 顯示獲得的數(shù)據(jù)
var_dump($data);
?>
如何POST數(shù)據(jù)
上面是抓取網(wǎng)頁的代碼,下面則是向某個網(wǎng)頁P(yáng)OST數(shù)據(jù)。假設(shè)我們有一個處理表單的網(wǎng)址http://www.example.com/sendSMS.php,其可以接受兩個表單域,一個是電話號碼,一個是短信內(nèi)容。
$phoneNumber = '13912345678';
$message = 'This message was generated by curl and php';
$curlPost = 'pNUMBER=' . urlencode($phoneNumber) . '&MESSAGE=' . urlencode($message) . '&SUBMIT=Send';
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, 'http://www.example.com/sendSMS.php');
curl_setopt($ch, CURLOPT_HEADER, 1);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_POST, 1);
curl_setopt($ch, CURLOPT_POSTFIELDS, $curlPost);
$data = curl_exec();curl_close($ch);
?>
從上面的程序我們可以看到,使用CURLOPT_POST設(shè)置HTTP協(xié)議的POST方法,而不是GET方法,然后以CURLOPT_POSTFIELDS設(shè)置POST的數(shù)據(jù)。
關(guān)于代理服務(wù)器
下面是一個如何使用代理服務(wù)器的示例。請注意其中高亮的代碼,代碼很簡單,我就不用多說了。
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, 'http://www.example.com');
curl_setopt($ch, CURLOPT_HEADER, 1);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_HTTPPROXYTUNNEL, 1);
curl_setopt($ch, CURLOPT_PROXY, 'fakeproxy.com:1080');
curl_setopt($ch, CURLOPT_PROXYUSERPWD, 'user:password');
$data = curl_exec();curl_close($ch);
?>
關(guān)于SSL和Cookie
關(guān)于SSL也就是HTTPS協(xié)議,你只需要把CURLOPT_URL連接中的http://變成https://就可以了。當(dāng)然,還有一個參數(shù)叫CURLOPT_SSL_VERIFYHOST可以設(shè)置為驗(yàn)證站點(diǎn)。
關(guān)于Cookie,你需要了解下面三個參數(shù):
CURLOPT_COOKIE,在當(dāng)面的會話中設(shè)置一個cookie
CURLOPT_COOKIEJAR,當(dāng)會話結(jié)束的時候保存一個Cookie
CURLOPT_COOKIEFILE,Cookie的文件。
HTTP服務(wù)器認(rèn)證
最后,我們來看一看HTTP服務(wù)器認(rèn)證的情況。
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, 'http://www.example.com');
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_HTTPAUTH, CURLAUTH_BASIC);
curl_setopt(CURLOPT_USERPWD, '[username]:[password]')
$data = curl_exec();
curl_close($ch);
?>
【PHP的cURL庫有效地抓網(wǎng)頁的技巧】相關(guān)文章:
php的curl學(xué)習(xí)總結(jié)07-08
PHP如何使用curl實(shí)現(xiàn)數(shù)據(jù)抓取09-27
PHP中用CURL偽造IP來源的方法06-26
PHP基于CURL進(jìn)行POST數(shù)據(jù)上傳的方法06-19
PHP如何用curl發(fā)送GET和POST請求09-07
PHP如何使用curl發(fā)送GET和POST請求09-10
PHP中使用cURL實(shí)現(xiàn)Get和Post請求的方法10-30
php中file-get-contents與curl性能比較分析10-24
PHP怎么插入數(shù)據(jù)庫07-09