八.Kibana實踐
選擇絕對時間和相對時間
搜索
還可以添加相關信息
自動刷新頁面時間,也可以關閉
創建圖像,可視化
編輯Markdown,創建一個值班聯系表
值班聯系表
保存
再創建一個餅圖;查看下狀態碼
保存
再來一個柱狀圖
保存為訪問IP TOP5
添加展示
再添加一個折線圖
保存為HTTP響應時間,Dashboard添加,然后保存
再添加一個統計,統計數量
選擇system-syslog
保存為日志數據統計
Dashboard添加,然后保存
生產最好加一個Nginx用戶認證,不能誰都能訪問
管理監控和部署elasticsearch指南
https://www.elastic.co/guide/en/elasticsearch/guide/current/administration.html
生產建議在每個elasticsearch上跑一個kibana,每個kibana連接自己的elasticsearch,再搞一個Nginx,前端負載,做好會話保持
九.ElkStack上線規划
上線ELKstack前,先做好如下規范能更好的開啟ELKstack之旅。
1.標准化:
1.路徑規划:/data/logs/,/data/logs/access,/data/logs/error,/data/logs/run
2.格式要求:嚴格要求使用json
3.命名規則: access_log error_log runtime_log system_log
4.日志切割:按天,按小時。訪問,錯誤,程序日志按小時,系統日志按天收集。
5.原始文本: rsync推送NAS,后刪除最近三天前。
5.消息隊列:訪問日志,寫入Redis_DB6,錯誤日志Redis_DB7,程序日志Redis_DB8
2.工具化:
1.訪問日志 Apache、Nginx、Tomcat (使用file插件)
2.錯誤日志 java日志、異常日志(使用mulitline多行插件)
3.系統日志/var/log/*、rsyslog (使用syslog)
4.運行日志程序寫入的日志文件(可使用file插件或json插件)
5.網絡日志防火牆、交換機、路由器(syslog插件)
3.集群化:
1.每台ES上面都啟動一個Kibana
2.Kibana都連自己的ES
3.前端Nginx負載均衡+驗證,代理至后端Kibana
4.通過消息隊列來實現程序解耦以及高可用等擴展
4.監控化:
1.對ES以及Kibana、進行監控。如果服務DOWN及時處理。
2.使用Redis的list作為ELKstack消息隊列。
3.Redis的List Key長度進行監控(llen key_name)。例:超過"10萬"即報警(根據實際情況以及業務情況)
5.迭代化:
1.開源日志分析平台:ELK、EFK、EHK、
2.數據收集處理:Flume、heka
3.消息隊列:Redis、Rabbitmq、Kafka、Hadoop、webhdfs