基於docker 搭建Prometheus+Grafana


一、介紹Prometheus

       Prometheus(普羅米修斯)是一套開源的監控&報警&時間序列數據庫的組合,起始是由SoundCloud公司開發的。Prometheus基本原理是通過HTTP協議周期性抓取被監控組件的狀態,這樣做的好處是任意組件只要提供HTTP接口就可以接入監控系統,不需要任何SDK或者其他的集成過程。這樣做非常適合虛擬化環境比如VM或者Docker 。

        隨着發展,越來越多公司和組織接受采用Prometheus。Google SRE的書內也曾提到跟他們BorgMon監控系統相似的實現是Prometheus。現在最常見的Kubernetes容器管理系統中,通常會搭配Prometheus進行監控。

      Prometheus應該是為數不多的適合Docker、Mesos、Kubernetes環境的監控系統之一。輸出被監控組件信息的HTTP接口被叫做exporter 。目前互聯網公司常用的組件大部分都有exporter可以直接使用,比如Varnish、Haproxy、Nginx、MySQL、Linux 系統信息 (包括磁盤、內存、CPU、網絡等等),具體支持的源看:https://github.com/prometheus

與其他監控系統相比,Prometheus的主要特點是:

  • 一個多維數據模型(時間序列由指標名稱定義和設置鍵/值尺寸)。
  • 非常高效的存儲,平均一個采樣數據占~3.5bytes左右,320萬的時間序列,每30秒采樣,保持60天,消耗磁盤大概228G。
  • 一種靈活的查詢語言。
  • 不依賴分布式存儲,單個服務器節點。
  • 時間集合通過HTTP上的PULL模型進行。
  • 通過中間網關支持推送時間。
  • 通過服務發現或靜態配置發現目標。
  • 多種模式的圖形和儀表板支持。

二、Prometheus架構概覽

該圖說明了普羅米修斯(Prometheus)及其一些生態系統組件的整體架構:

    它的服務過程是這樣的Prometheus daemon負責定時去目標上抓取metrics(指標) 數據,每個抓取目標需要暴露一個http服務的接口給它定時抓取。

    Prometheus:支持通過配置文件、文本文件、zookeeper、Consul、DNS SRV lookup等方式指定抓取目標。支持很多方式的圖表可視化,例如十分精美的Grafana,自帶的Promdash,以及自身提供的模版引擎等等,還提供HTTP API的查詢方式,自定義所需要的輸出。

    Alertmanager:是獨立於Prometheus的一個組件,可以支持Prometheus的查詢語句,提供十分靈活的報警方式。

    PushGateway:這個組件是支持Client主動推送metrics到PushGateway,而Prometheus只是定時去Gateway上抓取數據。

    如果有使用過statsd的用戶,則會覺得這十分相似,只是statsd是直接發送給服務器端,而Prometheus主要還是靠進程主動去抓取。

    大多數Prometheus組件都是用Go編寫的,它們可以輕松地構建和部署為靜態二進制文件。訪問prometheus.io以獲取完整的文檔,示例和指南。

三、Prometheus的數據模型

    Prometheus從根本上所有的存儲都是按時間序列去實現的,相同的metrics(指標名稱) 和label(一個或多個標簽) 組成一條時間序列,不同的label表示不同的時間序列。為了支持一些查詢,有時還會臨時產生一些時間序列存儲。

metrics name&label指標名稱和標簽

    每條時間序列是由唯一的”指標名稱”和一組”標簽(key=value)”的形式組成。

    指標名稱:一般是給監測對像起一名字,例如http_requests_total這樣,它有一些命名規則,可以包字母數字_之類的的。通常是以應用名稱開頭_監測對像_數值類型_單位這樣。例如:push_total、userlogin_mysql_duration_seconds、app_memory_usage_bytes。

    標簽:就是對一條時間序列不同維度的識別了,例如一個http請求用的是POST還是GET,它的endpoint是什么,這時候就要用標簽去標記了。最終形成的標識便是這樣了:http_requests_total{method=”POST”,endpoint=”/api/tracks”}。

    記住,針對http_requests_total這個metrics name無論是增加標簽還是刪除標簽都會形成一條新的時間序列。

查詢語句就可以跟據上面標簽的組合來查詢聚合結果了。

    如果以傳統數據庫的理解來看這條語句,則可以考慮http_requests_total是表名,標簽是字段,而timestamp是主鍵,還有一個float64字段是值了。(Prometheus里面所有值都是按float64存儲)。

四、Prometheus四種數據類型

Counter

    Counter用於累計值,例如記錄請求次數、任務完成數、錯誤發生次數。一直增加,不會減少。重啟進程后,會被重置。

    例如:http_response_total{method=”GET”,endpoint=”/api/tracks”} 100,10秒后抓取http_response_total{method=”GET”,endpoint=”/api/tracks”} 100。

Gauge

    Gauge常規數值,例如 溫度變化、內存使用變化。可變大,可變小。重啟進程后,會被重置。

    例如: memory_usage_bytes{host=”master-01″} 100 < 抓取值、memory_usage_bytes{host=”master-01″} 30、memory_usage_bytes{host=”master-01″} 50、memory_usage_bytes{host=”master-01″} 80 < 抓取值。

Histogram

    Histogram(直方圖)可以理解為柱狀圖的意思,常用於跟蹤事件發生的規模,例如:請求耗時、響應大小。它特別之處是可以對記錄的內容進行分組,提供count和sum全部值的功能。

例如:{小於10=5次,小於20=1次,小於30=2次},count=7次,sum=7次的求和值。

Summary

     Summary和Histogram十分相似,常用於跟蹤事件發生的規模,例如:請求耗時、響應大小。同樣提供 count 和 sum 全部值的功能。

    例如:count=7次,sum=7次的值求值。

    它提供一個quantiles的功能,可以按%比划分跟蹤的結果。例如:quantile取值0.95,表示取采樣值里面的95%數據。

五、安裝運行Prometheus(docker版)

下面介紹如何使用Prometheus和Grafana對本機服務器性能進行監控。

監控本機,只需要一個exporter

    node_exporter – 用於機器系統數據收集

    Grafana是一個開源的功能豐富的數據可視化平台,通常用於時序數據的可視化。它內置了以下數據源的支持:

下面是我們安裝時用到的架構圖:

注意:本文使用的是CentOS-7-x86_64-DVD-1804.iso,只需要一台服務器即可!

安裝docker

下載鏡像包

 1 [root@centos7-1804 ~]# docker pull prom/node-exporter
 2 [root@centos7-1804 ~]# docker pull prom/prometheus
 3 [root@centos7-1804 ~]# docker pull grafana/grafana

啟動node-exporter

 1 [root@centos7-1804 ~]# docker run -d -p 9100:9100 -v "/proc:/host/proc:ro" -v "/sys:/host/sys:ro" -v "/:/rootfs:ro" \--net="host" prom/node-exporter

等待幾秒鍾,查看端口狀態

 1 [root@centos7-64 ~]# netstat -anpt
 2 Active Internet connections (servers and established)
 3 Proto Recv-Q Send-Q Local Address           Foreign Address         State       PID/Program name
 4 tcp        0      0 0.0.0.0:22              0.0.0.0:*               LISTEN      1147/sshd
  5 tcp6 0 0 :::9100 :::* LISTEN 3070/node_exporter
  6 ...

已經看到9100端口已經運行起來,接下來訪問url:

 1 http://IP:9100/metrics

效果如下:

image

這些都是收集到數據,有了它就可以做數據展示了

啟動prometheus

新建目錄prometheus,編輯配置文件prometheus.yml

 1 [root@centos7-64 ~]# mkdir /home/prometheus
 2 [root@centos7-64 ~]# vim prometheus.yml

prometheus.yml 內容如下:

 1 global:
 2   scrape_interval:     60s
 3   evaluation_interval: 60s
 4 
 5 scrape_configs:
 6   - job_name: prometheus
 7     static_configs:
 8       - targets: ['localhost:9090']
 9         labels:
 10           instance: prometheus
 11 
 12   - job_name: linux
 13     static_configs:
 14       - targets: ['IP:9100']
 15         labels:
 16           instance: localhost

注意:修改IP地址,這里的一定是你自己的IP地址

啟動prometheus

 1 [root@centos7-1804 ~]# docker run  -d -p 9090:9090 -v /opt/prometheus/prometheus.yml:/etc/prometheus/prometheus.yml prom/prometheus

等待幾秒鍾,查看端口狀態

 1 [root@centos7-1804 ~]# netstat -anpt
 2 Active Internet connections (servers and established)
 3 Proto Recv-Q Send-Q Local Address           Foreign Address         State       PID/Program name
 4 ...
 5 tcp6       0      0 :::9100                 :::*                    LISTEN      3070/node_exporter
 6 tcp6       0      0 :::22                   :::*                    LISTEN      1147/sshd
 7 tcp6       0      0 :::9090                 :::*                    LISTEN      3336/docker-proxy

訪問url:

瀏覽器顯示界面如下

image

訪問targets,url如下:

 1 http://IP:9090/targets

瀏覽器顯示界面如下

image

如果瀏覽器沒有顯示或者訪問不到,耐心等一下下就好了

啟動grafana

新建空文件夾grafana-storage,用來存儲數據 並設置權限

 1 [root@centos7-1804 ~]# mkdir /home/grafana-storage
 2 [root@centos7-1804 ~]# chmod 777 -R /home/grafana-storage

因為grafana用戶會在這個目錄寫入文件,直接設置777,比較簡單直接!

啟動grafana

等待幾秒鍾,查看端口狀態

 1 [root@centos7-1804 ~]# docker run -d -p 3000:3000 --name=grafana -v /opt/grafana-storage:/var/lib/grafana \ grafana/grafana
  
  
  
          
 1 [root@centos7-1804 ~]# netstat -anpt
 2 Active Internet connections (servers and established)
 3 Proto Recv-Q Send-Q Local Address           Foreign Address         State       PID/Program name
 4 ...
 5 tcp6       0      0 :::9100                 :::*                    LISTEN      3070/node_exporter
 6 tcp6       0      0 :::22                   :::*                    LISTEN      1147/sshd
 7 tcp6 0 0 :::3000 :::* LISTEN 3494/docker-proxy
 8 tcp6       0      0 :::9090                 :::*                    LISTEN      3336/docker-proxy
 9 tcp6       0      0 192.168.188.132:9100     172.17.0.2:55108        ESTABLISHED 3070/node_exporter

訪問url:

默認會先跳轉到登錄頁面

    默認的用戶名和密碼都是admin   

    登錄之后,它會要求你重置密碼。你還可以再輸次admin密碼!

密碼設置完成之后,就會跳轉到首頁

image

點擊Add data source,由於使用的是鏡像方式,所以版本比較新,可能會有出入 選擇Prometheus

image

image

name名字寫Prometheus

type 選擇Prometheus,因為數據都從它那里獲取

url 輸入Prometheus的ip+端口

點擊下面的Save & Test,如果出現綠色的,說明ok了

回到首頁,點擊New dashboard

image image

點擊標題下方的編輯                                                 點擊左側的Queries添加展示的內容

imageimage

最終,根據自己實際需求設計

image





歸類 : 自動化運維&服務相關


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM