大數據日志采集系統


ELK提供了一系列采集方案。但對於從app端過來的日志,沒有接收模塊。一種方案可以用logstash打開socket端口接收,需要客戶端配合。這里提供通過http的方案。接收服務器采用springboot實現收集,發送日志到kafka。也可以直接寫文件,用fileBeat讀取發送到kafka。從kafka傳送到elasticsearch用了大數據計算平台Beam實現。Beam編出的jar可以部署到spark,flink等。進入elasticsearch的數據可以做報警處理。用開源的elastAlert。可以將報警信息發往其他地方,可以用webhook,把報警信息post到服務器上,發送到如企業微信等。

git源碼:

采集服務:https://github.com/bigben0123/dataPlatformCollector

beam服務:https://github.com/bigben0123/

 


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM