以實現MongoDB副本集狀態的監控為例,看Telegraf系統中Exec輸入插件如何編寫部署


既有的Telegraf 關於MongoDB的輸入插件很難實現對副本集節點狀態的監控,副本集節點狀態有 PRIMARY、SECONDARY、RECOVERYING、ARBITER 等。現在我們嘗試通過 Exec Input Plugin 來實現對MongoDB狀態的的監控。

第一部分 簡單回顧下Zabbix的監控實現

1. Zabbix 執行的文件腳本如下:

#!/bin/bash
command_linebin="mongodb可執行文件路徑/bin/mongo"
replstatus="PRIMARY SECONDARY ARBITER"
username="user"
password="pwd"

command_line="${command_linebin} localhost:$1/admin -u$username -p$password"
mcount=$(/bin/echo "rs.status().members.length" | $command_line --quiet)
if [ $mcount -ge 3 ]  ;then 
   ms1=$(/bin/echo "rs.status().members[0].stateStr" | $command_line --quiet)
   ms2=$(/bin/echo "rs.status().members[1].stateStr" | $command_line --quiet)
   ms3=$(/bin/echo "rs.status().members[2].stateStr" | $command_line --quiet)


  if [[ $replstatus =~ $ms1 ]] && [[ $replstatus =~ $ms2 ]]  && [[ $replstatus =~ $ms3 ]] ;then 
        echo "The Status OK "
   else 
         echo "The status of mongo replica is unnormal.port is " $1 
   fi 

else
     ms1=$(/bin/echo "rs.status().members[0].stateStr" | $command_line --quiet)
     ms2=$(/bin/echo "rs.status().members[1].stateStr" | $command_line --quiet)
    
    if [[ $replstatus =~ $ms1 ]] && [[ $replstatus =~ $ms2 ]] ;then
        echo "The Status OK "
   else
         echo "The status of mongo replica is unnormal.port is " $1 
   fi


fi

 (文件中的執行輸入參數是MongoDB的端口號)

2.異常告警界面;

第二部分 Telegraf 收集代理關於exec插件的實現

1.可執行命名文件為 test_mongodb.sh,具體腳本簡化調整

#!/bin/bash
command_linebin="MongoDB可執行文件/bin/mongo"
username="User"
replstatus="PRIMARY SECONDARY ARBITER"
password="PWD"
port=27017

command_line="${command_linebin} localhost:$port/admin -u$username -p$password"
mcount=$(/bin/echo "rs.status().members.length" | $command_line --quiet)
if [ $mcount -ge 3 ]  ;then 
   ms1=$(/bin/echo "rs.status().members[0].stateStr" | $command_line --quiet)
   ms2=$(/bin/echo "rs.status().members[1].stateStr" | $command_line --quiet)
   ms3=$(/bin/echo "rs.status().members[2].stateStr" | $command_line --quiet)


  if [[ $replstatus =~ $ms1 ]] && [[ $replstatus =~ $ms2 ]]  && [[ $replstatus =~ $ms3 ]] ;then 
        echo "ReplStatus,tag=mongodb Status=1i"
   else 
         echo "ReplStatus,tag=mongodb Status=2i" 
   fi 

else
     ms1=$(/bin/echo "rs.status().members[0].stateStr" | $command_line --quiet)
     ms2=$(/bin/echo "rs.status().members[1].stateStr" | $command_line --quiet)
    
    if [[ $replstatus =~ $ms1 ]] && [[ $replstatus =~ $ms2 ]] ;then
        echo "ReplStatus,tag=mongodb Status=1i"
   else
          echo 'ReplStatus,tag=mongodb Status=2i'
  
   fi


fi

 文件所處的路徑為  /etc/telegraf/test_mongodb.sh

2. telegraf.conf中關於exec input的配置如下;

3. 通過test命令測試,運行正常

 telegraf --config telegraf.conf --test

4.啟動服務

service telegraf start

5.登入到InfluxDB下查詢驗證收集的數據

 (以上看似部署完畢,實際.....)

第三部 權限設置問題導致數據錯誤的分析與探究

仔細看上面的截圖數據,問題出來了,明明調試過程中是 status為1,而保存到InfluxDB中status為2 了呢???

本來集群狀態是OK的,結果判斷為Error!!!! 針對此問題在網上搜索原因及方案,聚焦如下:

即懷疑為權限問題。

下面為具體的探究測試過程

step 1 我們從root 賬號切換到 telegraf賬號

但是 切換 不成功。

Step 2 查看telegraf賬號信息

cat /etc/passwd

(/bin/false什么也不做只是返回一個錯誤狀態,然后立即退出。將用戶的shell設置為/bin/false,用戶會無法登錄,並且不會有任何提示。)

Step 3 將登入屬性設置為 /bin/bash,修改后如下;

 step 4 再次 su 為 telegraf賬號 ,查詢當前連接的賬號

 

此時切換成功了。

Step 5 在 telegraf 賬號下,測試 

此時 status=2 和我們開始在root 賬號下此測試(status=1)是不一樣的,也理解了為什么InfluxDB中數據為2的根源,確實和賬號有關。

Step 6 調試 telegraf 調用的 test_mongodb.sh 文件

sh -x test_mongodb.sh

部分報錯信息如下:

+ ms2='SECONDARY
2019-07-02T20:24:59.596+0800 E -        [main] Error saving history file: FileOpenFailed: Unable to open() file /etc/telegraf/.dbshell: Unknown error'
+ [[ PRIMARY SECONDARY ARBITER =~ PRIMARY
2019-07-02T20:24:59.468+0800 E -        [main] Error saving history file: FileOpenFailed: Unable to open() file /etc/telegraf/.dbshell: Unknown error ]]
+ echo 'ReplStatus,tag=mongodb Status=2i'
ReplStatus,tag=mongodb Status=2i

從上面的異常信息得知,直接錯誤原因是 不能在文件 /etc/telegraf/.dbshell 中保存歷史數據。

其實在/etc/telegraf 沒有看到這個 .dbshell 這個文件。查看顯示所有的文件(包含隱藏文件)的 命令如下

ll -a

 那么如果我們手動創建.dbshell呢? 

以下操作是在root賬號下創建.dbshell 文件,並且將文件的擁有者調整為telegraf賬號,具體的的命令如截圖:

step 7 再次用telegraf賬號運行  test_mongodb.sh 可執行文件

 sh -x test_mongodb.sh 

 此時沒有出現異常,數據也正常了。

 step 8 在telegraf賬號下 用 telegraf 服務調試,此次運行和root賬號一樣了。

此時沒有出現異常,數據也正常了。)

 Step 9 登入到InfluxDB中查看,由錯誤的2恢復了1。

 

第四部分 思考優化

(1)為什么root賬號不需要手動創建.dbshel? 是不需要這個文件嗎?如果需要有在那個目錄下呢?

首先了解下 .dbshell 文件,它的基本解釋是:“When you run the mongo client, it stores a history of commands in $HOME/.dbshell.”

從上面的解釋可以看出,root賬號應該也會產生.dbshell文件。

我們通過以下幾步去找到root賬號對應的.dbsehll 文件。

(2)如何優化telegraf的賬號,不再需要手動創建文件?

 推測:是不是給telegraf 賬號賦予自身對應$HOME足夠的權限就可以了。

測試如下;

step 1 找到賬號對應的$home

step 2 刪除前面測試創建的.dbshell 文件

Step 3 執行驗證telegraf 測試命令,此時應該數據異常(切記;切換到telegraf 賬號下執行)

step 4 在root賬號將 $home 對應的目錄(/etc/telegaf)擁有者轉換給telegraf賬號

step 5 再次執行 telegraf 測試命令

 

以上,測試驗證數據給賬號相應的$home文檔服務相應的權限,也可以解決問題。

第五部分  告警展示

我們在Grafana中配置后,其顯示界面如下:

 

第六部分 補充說明;

1.$HOME代表的路徑是什么?

可以簡單的理解為 :home是用戶的主目錄,登錄后缺省進入的目錄,提供一個用戶專屬的啟動文件來定義該用戶所用到的一些環境變量。

可用命令:

echo $HOME

 

2.寫入InfluxDB,應遵循以下格式:

<measurement>[,<tag-key>=<tag-value>...] <field-key>=<field-value>[,<field2-key>=<field2-value>...] [unix-nano-timestamp]

如果格式不對,常見的錯誤如下:

2019-05-02T08:04:13Z E! Error in plugin [inputs.exec]: metric parse error: expected field at offset 37: "XXXXXXXXXXXXXXXXXXXX\n"

 

第七部分延伸拓展

 上面介紹了這么多,我們需要動手實踐一下,目標是實現MySQL MHA Manager 狀態的監控。主要用到的MHA監控腳本是 masterha_check_status。

telegraf.conf 增加的腳本如下

[[inputs.exec]]
  ##Commands array
  commands = ["bash /data/checkmha/scripts/masterha_checkstatus_alarm.sh",]
  timeout='15s'
  data_format="influx"

被驅動的masterha_checkstatus_alarm.sh

######
#!/bin/sh

mha_conf=/etc/mha/mhaqqshanxi.cnf
mha_check_result=`/usr/local/bin/masterha_check_status --conf=/etc/mha/mhaqqshanxi.cnf  | grep "stopped" | wc -l`
#conf_server1=`grep  "server1" $mha_conf`
conf_server1=`cat $mha_conf|grep "server1" -A 1| grep "17."|cut -d '=' -f 2`
conf_server2=`cat $mha_conf|grep "server2" -A 3| grep "17."|cut -d '=' -f 2`
conf_server3=`cat $mha_conf|grep "server3" -A 2| grep "17."|cut -d '=' -f 2`

if [ "$mha_check_result" == "1" ];then
     echo 'MySQLMHAStatus,host=apqqshanxi_1_2,server='$conf_server1' Status=0i'
     echo 'MySQLMHAStatus,host=apqqshanxi_1_3,server='$conf_server2' Status=0i'
     echo 'MySQLMHAStatus,host=apqqshanxi_1_4,server='$conf_server3' Status=0i'
else
     echo 'MySQLMHAStatus,host=apqqshanxi_1_2,server='$conf_server1' Status=1i'
     echo 'MySQLMHAStatus,host=apqqshanxi_1_3,server='$conf_server2' Status=1i'
     echo 'MySQLMHAStatus,host=apqqshanxi_1_4,server='$conf_server3' Status=1i'
fi

查看influxdb數據庫關於此measurement的數據

 

 grafana 中關於此監控項的panel

 

 

 

 

本文版權歸作者所有,未經作者同意不得轉載,謝謝配合!!!

本文版權歸作者所有,未經作者同意不得轉載,謝謝配合!!!

本文版權歸作者所有,未經作者同意不得轉載,謝謝配合!!!

 


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM