碼上歡樂
相關內容    簡體    繁體

Linux之curl命令詳解

本文轉載自   查看原文   2016-09-27 17:33   30522    Linux

url命令是一個功能強大的網絡工具，它能夠通過http、ftp等方式下載文件，也能夠上傳文件。其實curl遠不止前面所說的那些功能，大家可以通過man curl閱讀手冊頁獲取更多的信息。類似的工具還有wget。

curl命令使用了libcurl庫來實現，libcurl庫常用在C程序中用來處理HTTP請求，curlpp是libcurl的一個C++封裝，這幾個東西可以用在抓取網頁、網絡監控等方面的開發，而curl命令可以幫助來解決開發過程中遇到的問題。

常用參數

curl命令參數很多，這里只列出我曾經用過、特別是在shell腳本中用到過的那些。

-v/--verbose 小寫的v參數，用於打印更多信息，包括發送的請求信息，這在調試腳本是特別有用。

-m/--max-time <seconds> 指定處理的最大時長

-H/--header <header> 指定請求頭參數

-s/--slient 減少輸出的信息，比如進度

--connect-timeout <seconds> 指定嘗試連接的最大時長

-x/--proxy <proxyhost[:port]> 指定代理服務器地址和端口，端口默認為1080

-T/--upload-file <file> 指定上傳文件路徑

-o/--output <file> 指定輸出文件名稱

-d/--data/--data-ascii <data> 指定POST的內容

--retry <num> 指定重試次數

-e/--referer <URL> 指定引用地址

-I/--head 僅返回頭部信息，使用HEAD請求

使用示例

示例一 獲取指定網頁

[root@jfht ~]# curl http://www.sunrisecorp.net/  <!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd"> <html xmlns="http://www.w3.org/1999/xhtml"> <head> <meta http-equiv="Content-Type" content="text/html; charset=gbk" /> <meta name="title" content="歡迎您 - 上海騰一" /> <meta name="keyword" content="上海騰一，融合通信，電子商務，語音通信，數據通信，基站工程外包托管，物聯網，網站建設，電子商務解決方案，移動互聯網，短信，彩信，呼叫中心，多方會議，PBX，IVR，電子商務策划方案，設備代維，網絡優化，通信工程，電信增值，3G" /> <meta name="description" content="上海騰一信息技術有限公司專注於電信增值、通信工程、電子商務等領域，擁有近十年的經驗。" /> <title> 歡迎您 - 上海騰一 </title>

 

插播一下廣告：上海騰一信息技術有限公司是一家致力於通信工程、電子商務和電信增值業務的公司，請訪問官方網址： http://www.sunrisecorp.net/ 。

 

 

此處省略掉網頁內容 。

</body> </html>[root@jfht ~]#

示例二 查看響應頭信息

[root@jfht ~]# curl -I http://www.sunrisecorp.net/ HTTP/1.1 200 OK Server: Apache-Coyote/1.1 Accept-Ranges: bytes ETag: W/"17801-1285643951000" Last-Modified: Tue, 28 Sep 2010 03:19:11 GMT Content-Type: text/html Content-Length: 17801 Date: Tue, 12 Oct 2010 12:49:20 GMT
[root@jfht ~]#

 

示例三 檢查網頁是否可正常訪問

以下是一個tomcat監控腳本的部分內容。

Bash代碼  復制代碼 收藏代碼
  1. # usage: check_once <port> <path>   
  2. # 使用curl檢查網頁是否可以正常訪問，如果不能訪問就重啟tomcat。   
  3. check_once()   
  4. {   
  5.         echo   
  6.         echo "$(date)  Tomcat check once"  
  7.         # 2008.08.21 -I/--head -s/--silent   
  8.         #if curl -s -I --connect-timeout 5 --max-time 10 http://localhost:$1/; then   
  9.         # 2010.02.16 add 200 OK test   
  10.         if curl -s -I --connect-timeout 5 --max-time 10 http://localhost:$1/$2 | grep -q '200 OK';   
  11.   
  12.   
  13.  then   
  14.                 echo "$(date)  Tomcat maybe OK"  
  15.         else   
  16.                 echo "$(date)  Tomcat maybe FAULT"  
  17.                 restart   
  18.         fi   
  19. }   
  20.   
  21. # usage: check_loop <port> <path>   
  22. # 每隔一分鍾檢查一次網頁是否正常   
  23. check_loop()   
  24. {   
  25.         while true;   
  26.         do   
  27.                 sleep 60  
  28.                 check_once $1 $2 >> $CATALINA_HOME/logs/check.$(date +%Y-%m-%d).log   
  29.         done   
  30. }   
  31.   
  32. # usage: monitor <path>   
  33. # 對path指定的本機網頁進行監控   
  34. # 2008.06.26  
  35. # 2010.09.20 add path parameter   
  36. monitor()   
  37. {   
  38.         PORT=80  
  39.         if grep 'Connector port="80"' $CATALINA_HOME/conf/server.xml; then   
  40.                 PORT=80  
  41.         elif grep 'Connector port="8080"' $CATALINA_HOME/conf/server.xml; then   
  42.                 PORT=8080  
  43.         else   
  44.                 echo "Cannot detect server port for Tomcat"  
  45.                 return 12  
  46.         fi   
  47.         echo "Tomcat server port is $PORT"  
  48.   
  49.         if status; then   
  50.                 check_loop $PORT "$1" &   
  51.                 #check_loop $PORT "$1"  
  52.         fi   
  53. }   
  54.    
Bash代碼   收藏代碼
  1. # usage: check_once <port> <path>  
  2. # 使用curl檢查網頁是否可以正常訪問，如果不能訪問就重啟tomcat。  
  3. check_once()  
  4. {  
  5.         echo  
  6.         echo "$(date)  Tomcat check once"  
  7.         # 2008.08.21 -I/--head -s/--silent  
  8.         #if curl -s -I --connect-timeout 5 --max-time 10 http://localhost:$1/; then  
  9.         # 2010.02.16 add 200 OK test  
  10.         if curl -s -I --connect-timeout 5 --max-time 10 http://localhost:$1/$2 | grep -q '200 OK';  
  11.   
  12.   
  13.  then  
  14.                 echo "$(date)  Tomcat maybe OK"  
  15.         else  
  16.                 echo "$(date)  Tomcat maybe FAULT"  
  17.                 restart  
  18.         fi  
  19. }  
  20.   
  21. # usage: check_loop <port> <path>  
  22. # 每隔一分鍾檢查一次網頁是否正常  
  23. check_loop()  
  24. {  
  25.         while true;  
  26.         do  
  27.                 sleep 60  
  28.                 check_once $1 $2 >> $CATALINA_HOME/logs/check.$(date +%Y-%m-%d).log  
  29.         done  
  30. }  
  31.   
  32. # usage: monitor <path>  
  33. # 對path指定的本機網頁進行監控  
  34. # 2008.06.26  
  35. # 2010.09.20 add path parameter  
  36. monitor()  
  37. {  
  38.         PORT=80  
  39.         if grep 'Connector port="80"' $CATALINA_HOME/conf/server.xml; then  
  40.                 PORT=80  
  41.         elif grep 'Connector port="8080"' $CATALINA_HOME/conf/server.xml; then  
  42.                 PORT=8080  
  43.         else  
  44.                 echo "Cannot detect server port for Tomcat"  
  45.                 return 12  
  46.         fi  
  47.         echo "Tomcat server port is $PORT"  
  48.   
  49.         if status; then  
  50.                 check_loop $PORT "$1" &  
  51.                 #check_loop $PORT "$1"  
  52.         fi  
  53. }  
  54.    

 

這個腳本的執行方式是 monitor <path>，比如monitor main/index.html。下面是執行時輸出的日志信息片段。

 

2010年 10月 09日 星期六 15:20:38 CST  Tomcat check once 2010年 10月 09日 星期六 15:20:46 CST  Tomcat maybe OK
2010年 10月 09日 星期六 15:21:46 CST  Tomcat check once 2010年 10月 09日 星期六 15:21:57 CST  Tomcat maybe FAULT Tomcat is now running, not stopped: 0 Tomcat is now running, not stopped: 1 Tomcat is now running, not stopped: 2 Tomcat is now running, not stopped: 3 Tomcat is now running, not stopped: 4 Tomcat is now running, not stopped: 5 Tomcat is now running, not stopped: 6 Tomcat is now running, not stopped: 7 Tomcat is now running, not stopped: 8 Tomcat is now running, not stopped: 9 Tomcat killed use SIGKILL Tomcat stopped       Starting tomcat
2010年 10月 09日 星期六 15:23:09 CST  Tomcat check once 2010年 10月 09日 星期六 15:23:09 CST  Tomcat maybe OK
2010年 10月 09日 星期六 15:24:09 CST  Tomcat check once 2010年 10月 09日 星期六 15:24:09 CST  Tomcat maybe OK

 

示例四 另一個檢查網頁是否正常的腳本

 

Bash代碼  復制代碼 收藏代碼
  1. # 要檢查的網頁地址   
  2. URL="http://www.sunrisecorp.net/"  
  3.   
  4. # usage:    
  5. curlit()   
  6. {   
  7.         curl --connect-timeout 15 --max-time 30 --head --silent "$URL" | grep 'HTTP/1.1 200 OK'  
  8. }   
  9.   
  10. # 只有MIN_ALARM次訪問失敗時才告警   
  11. MIN_ALARM=10  
  12.   
  13. #    
  14. doit()   
  15. {   
  16.     echo "===== $(now) ====="  
  17.     if ! curlit; then   
  18.             echo "$(now)  bbdx nss access failed"  
  19.             N=1  
  20.             if [ -e curlit_error ]; then   
  21.                     N="$(cat curlit_error)"  
  22.                     N=$[N+1]   
  23.             fi   
  24.             echo "$(now)  N=$N"  
  25.             echo $N >curlit_error   
  26.             if [ "$N" == "$MIN_ALARM" ]; then   
  27.                     echo "$(now)  do notify"  
  28.                     touch curlit_error   
  29.                     notify_curlit_error   
  30.             fi   
  31.     else   
  32.             if [ -e curlit_error ]; then   
  33.                     echo "$(now)  recovered"  
  34.                     N=$(cat curlit_error)   
  35.                     echo "$(now)  N=$N"  
  36.                     rm -f curlit_error   
  37.                     if [ "$N" -ge "$MIN_ALARM" ]; then   
  38.                             notify_curlit_recovered   
  39.                     fi   
  40.             fi   
  41.     fi   
  42. }   
  43.   
  44. doit >>log/curlit.log 2>&1  
  45.    
Bash代碼   收藏代碼
  1. # 要檢查的網頁地址  
  2. URL="http://www.sunrisecorp.net/"  
  3.   
  4. # usage:   
  5. curlit()  
  6. {  
  7.         curl --connect-timeout 15 --max-time 30 --head --silent "$URL" | grep 'HTTP/1.1 200 OK'  
  8. }  
  9.   
  10. # 只有MIN_ALARM次訪問失敗時才告警  
  11. MIN_ALARM=10  
  12.   
  13. #   
  14. doit()  
  15. {  
  16.     echo "===== $(now) ====="  
  17.     if ! curlit; then  
  18.             echo "$(now)  bbdx nss access failed"  
  19.             N=1  
  20.             if [ -e curlit_error ]; then  
  21.                     N="$(cat curlit_error)"  
  22.                     N=$[N+1]  
  23.             fi  
  24.             echo "$(now)  N=$N"  
  25.             echo $N >curlit_error  
  26.             if [ "$N" == "$MIN_ALARM" ]; then  
  27.                     echo "$(now)  do notify"  
  28.                     touch curlit_error  
  29.                     notify_curlit_error  
  30.             fi  
  31.     else  
  32.             if [ -e curlit_error ]; then  
  33.                     echo "$(now)  recovered"  
  34.                     N=$(cat curlit_error)  
  35.                     echo "$(now)  N=$N"  
  36.                     rm -f curlit_error  
  37.                     if [ "$N" -ge "$MIN_ALARM" ]; then  
  38.                             notify_curlit_recovered  
  39.                     fi  
  40.             fi  
  41.     fi  
  42. }  
  43.   
  44. doit >>log/curlit.log 2>&1  
  45.    

 

示例五 使用HttpPost上傳數據

一個用於http post的腳本。

Bash代碼  復制代碼 收藏代碼
  1. #!/bin/sh   
  2.   
  3. MS=1350514xxxx   
  4.   
  5. TM=$(date +"%Y%m%d%H%M%S")   
  6. DT=$(date +"%Y%m%d")   
  7.   
  8. cat <<EOF >reqtmp.xml   
  9. <?xml version="1.0" encoding="GBK" ?>   
  10. <OwnPlatForm>   
  11.         <OrigDomain>QZT</OrigDomain>   
  12.         <HomeDomain>BOSS</HomeDomain>   
  13.         <ActivityCode>T5100001</ActivityCode>   
  14.         <ActionCode>0</ActionCode>   
  15.         <TransIDO>$TM</TransIDO>   
  16.         <TransIDH></TransIDH>   
  17.         <ProcessTime>$TM</ProcessTime>   
  18.         <CutOffDay>$DT</CutOffDay>   
  19.         <TestFlag>0</TestFlag>   
  20.         <Content>   
  21.                 <![CDATA[   
  22.                         <BizProcReq>   
  23.                                 <IDType>01</IDType>   
  24.                                 <IDValue>$MS</IDValue>   
  25.                                 <UserCity>14</UserCity>   
  26.                                 <UserCounty>1419</UserCounty>   
  27.                                 <OprCode>01</OprCode>   
  28.                                 <BizType>51</BizType>   
  29.                                 <OprTime>$TM</OprTime>   
  30.                                 <OprSrc>27</OprSrc>   
  31.                                 <ProductInfo>   
  32.                                         <PrdCode>510001</PrdCode>   
  33.                                 </ProductInfo>   
  34.                         </BizProcReq>   
  35.                 ]]>   
  36.         </Content>   
  37. </OwnPlatForm>   
  38. EOF   
  39.   
  40. cat reqtmp.xml   
  41.   
  42.   
  43. URL="http://10.32.140.230:7092/fcgi-bin/UIG_NEWINT"  
  44.   
  45. curl --verbose --upload-file reqtmp.xml  --header "Content-Type: text/xml" "$URL" --output rsptmp.xml   
  46.   
  47. cat rsptmp.xml  
Bash代碼   收藏代碼
  1. #!/bin/sh  
  2.   
  3. MS=1350514xxxx  
  4.   
  5. TM=$(date +"%Y%m%d%H%M%S")  
  6. DT=$(date +"%Y%m%d")  
  7.   
  8. cat <<EOF >reqtmp.xml  
  9. <?xml version="1.0" encoding="GBK" ?>  
  10. <OwnPlatForm>  
  11.         <OrigDomain>QZT</OrigDomain>  
  12.         <HomeDomain>BOSS</HomeDomain>  
  13.         <ActivityCode>T5100001</ActivityCode>  
  14.         <ActionCode>0</ActionCode>  
  15.         <TransIDO>$TM</TransIDO>  
  16.         <TransIDH></TransIDH>  
  17.         <ProcessTime>$TM</ProcessTime>  
  18.         <CutOffDay>$DT</CutOffDay>  
  19.         <TestFlag>0</TestFlag>  
  20.         <Content>  
  21.                 <![CDATA[  
  22.                         <BizProcReq>  
  23.                                 <IDType>01</IDType>  
  24.                                 <IDValue>$MS</IDValue>  
  25.                                 <UserCity>14</UserCity>  
  26.                                 <UserCounty>1419</UserCounty>  
  27.                                 <OprCode>01</OprCode>  
  28.                                 <BizType>51</BizType>  
  29.                                 <OprTime>$TM</OprTime>  
  30.                                 <OprSrc>27</OprSrc>  
  31.                                 <ProductInfo>  
  32.                                         <PrdCode>510001</PrdCode>  
  33.                                 </ProductInfo>  
  34.                         </BizProcReq>  
  35.                 ]]>  
  36.         </Content>  
  37. </OwnPlatForm>  
  38. EOF  
  39.   
  40. cat reqtmp.xml  
  41.   
  42.   
  43. URL="http://10.32.140.230:7092/fcgi-bin/UIG_NEWINT"  
  44.   
  45. curl --verbose --upload-file reqtmp.xml  --header "Content-Type: text/xml" "$URL" --output rsptmp.xml  
  46.   
  47. cat rsptmp.xml  

 

示例六 使用proxy的腳本

Bash代碼  復制代碼 收藏代碼
  1. # usage: do_sync_once <mobile> <codes> <area_id> <opening>   
  2. do_sync_once()   
  3. {   
  4.         mobile=$1  
  5.         codes=$2  
  6.         area_id=$3  
  7.         opening=$4     
  8.            
  9.   
  10.   
  11. curl --silent --max-time 60 --proxy http://10.32.187.170:8080 "http://host/boss/sync.jsp?seq=1251747862492&mobile=$mobile&serviceCodes=$codes&areaId=$area_id&opening=$opening"  
  12.   
  13. }  
Bash代碼   收藏代碼
  1. # usage: do_sync_once <mobile> <codes> <area_id> <opening>  
  2. do_sync_once()  
  3. {  
  4.         mobile=$1  
  5.         codes=$2  
  6.         area_id=$3  
  7.         opening=$4    
  8.           
  9.   
  10.   
  11. curl --silent --max-time 60 --proxy http://10.32.187.170:8080 "http://host/boss/sync.jsp?seq=1251747862492&mobile=$mobile&serviceCodes=$codes&areaId=$area_id&opening=$opening"  
  12.   
  13. }  

 

示例七 使用Google AJAX Search API進行搜索

Bash代碼  復制代碼 收藏代碼
  1. # usage: google_search <STR>   
  2. # Google搜索   
  3. google_search()   
  4. {   
  5.         REF="http://codingstandards.iteye.com/"  
  6.         KEY="ABQIAAAAHg_ENG5Yq9pOZd19v64gyxTMcdcN4KfyGCBxustvF1FXdNe4WBQOej_ZiBgIK6-a4M3hTxcVfSkt2g"  
  7.         STR="$1"  
  8.         # 采用網頁搜索   
  9.         curl --retry 5 -e "$REF" "http://ajax.googleapis.com/ajax/services/search/web?v=1.0&q=$STR&hl=zh-CN&key=$KEY" 2>/dev/null   
  10.         # 采用博客搜索   
  11.         #curl -e $REF "http://ajax.googleapis.com/ajax/services/search/blogs?v=1.0&q=$STR&hl=zh-CN" 2>/dev/null   
  12.         #curl --retry 5 -e $REF "http://ajax.googleapis.com/ajax/services/search/blogs?v=1.0&q=$STR&hl=zh-CN" 2>/dev/null   
  13.         #curl --retry 5 -e "$REF" "http://ajax.googleapis.com/ajax/services/search/blogs?v=1.0&q=$STR&hl=zh-CN&key=$KEY" 2>/dev/null   
  14. }  
Bash代碼   收藏代碼
  1. # usage: google_search <STR>  
  2. # Google搜索  
  3. google_search()  
  4. {  
  5.         REF="http://codingstandards.iteye.com/"  
  6.         KEY="ABQIAAAAHg_ENG5Yq9pOZd19v64gyxTMcdcN4KfyGCBxustvF1FXdNe4WBQOej_ZiBgIK6-a4M3hTxcVfSkt2g"  
  7.         STR="$1"  
  8.         # 采用網頁搜索  
  9.         curl --retry 5 -e "$REF" "http://ajax.googleapis.com/ajax/services/search/web?v=1.0&q=$STR&hl=zh-CN&key=$KEY" 2>/dev/null  
  10.         # 采用博客搜索  
  11.         #curl -e $REF "http://ajax.googleapis.com/ajax/services/search/blogs?v=1.0&q=$STR&hl=zh-CN" 2>/dev/null  
  12.         #curl --retry 5 -e $REF "http://ajax.googleapis.com/ajax/services/search/blogs?v=1.0&q=$STR&hl=zh-CN" 2>/dev/null  
  13.         #curl --retry 5 -e "$REF" "http://ajax.googleapis.com/ajax/services/search/blogs?v=1.0&q=$STR&hl=zh-CN&key=$KEY" 2>/dev/null  
  14. }


免責聲明！

本站轉載的文章為個人學習借鑒使用，本站對版權不負任何法律責任。如果侵犯了您的隱私權益，請聯系本站郵箱yoyou2525@163.com刪除。



猜您在找 Linux curl命令詳解 Linux curl命令詳解 Linux curl命令詳解 Linux curl命令詳解 Linux curl命令參數詳解 Linux curl命令參數詳解 curl : curl命令詳解 Linux Shell腳本編程－－curl命令詳解 curl命令詳解 Linux curl命令 常用
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM