日志分析工具ELK(五)


八.Kibana實踐

選擇絕對時間和相對時間

 

搜索

還可以添加相關信息

自動刷新頁面時間,也可以關閉

創建圖像,可視化

 

編輯Markdown,創建一個值班聯系表

 

值班聯系表

 

保存

 

再創建一個餅圖;查看下狀態碼

 

 

保存

再來一個柱狀圖

保存為訪問IP TOP5

 

添加展示

 

 

再添加一個折線圖

保存為HTTP響應時間,Dashboard添加,然后保存

 

再添加一個統計,統計數量

 

選擇system-syslog

 

保存為日志數據統計

 

Dashboard添加,然后保存

生產最好加一個Nginx用戶認證,不能誰都能訪問

管理監控和部署elasticsearch指南

https://www.elastic.co/guide/en/elasticsearch/guide/current/administration.html

生產建議在每個elasticsearch上跑一個kibana,每個kibana連接自己的elasticsearch,再搞一個Nginx,前端負載,做好會話保持

九.ElkStack上線規划

上線ELKstack前,先做好如下規范能更好的開啟ELKstack之旅。

 

1.標准化:

1.路徑規划:/data/logs/,/data/logs/access,/data/logs/error,/data/logs/run

2.格式要求:嚴格要求使用json

3.命名規則: access_log error_log runtime_log system_log

4.日志切割:按天,按小時。訪問,錯誤,程序日志按小時,系統日志按天收集。

5.原始文本: rsync推送NAS,后刪除最近三天前。

5.消息隊列:訪問日志,寫入Redis_DB6,錯誤日志Redis_DB7,程序日志Redis_DB8

2.工具化:

1.訪問日志  Apache、Nginx、Tomcat       (使用file插件)

2.錯誤日志  java日志、異常日志(使用mulitline多行插件)

3.系統日志/var/log/*、rsyslog         (使用syslog)

4.運行日志程序寫入的日志文件(可使用file插件或json插件)

5.網絡日志防火牆、交換機、路由器(syslog插件)

3.集群化:

1.每台ES上面都啟動一個Kibana

2.Kibana都連自己的ES

3.前端Nginx負載均衡+驗證,代理至后端Kibana

4.通過消息隊列來實現程序解耦以及高可用等擴展

4.監控化:

1.對ES以及Kibana、進行監控。如果服務DOWN及時處理。

2.使用Redis的list作為ELKstack消息隊列。

3.Redis的List Key長度進行監控(llen key_name)。例:超過"10萬"即報警(根據實際情況以及業務情況)

5.迭代化:

1.開源日志分析平台:ELK、EFK、EHK、

2.數據收集處理:Flume、heka

3.消息隊列:Redis、Rabbitmq、Kafka、Hadoop、webhdfs


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM