六、Kafka 用戶日志上報實時統計之分析與設計


一、項目整體概述

  • 簡述項目的背景

背景:
用戶行跡
企業運營

  • 分析項目的目的
通過對項目的分析,可以初步得到以下目的:
•實時掌握用戶動態
•根據實時統計結果,適度推廣
•統計分析效果,快速合理的調整

二、Producer 模塊分析

  • 分析生產數據來源
在用戶上報日志中,每條日志記錄代表用戶的一次活動狀態,示例數據如下:
 
121.40.174.237 yx12345 [21/July/2015 13:25:45 +0000] chrome
 
appid_5 "http://www.***.cn/sort/channel/2085.html"
 
示例數據所包含的信息量,如下圖所示:
 

 

  • Flume 到 Kafka 流程分析
數據源生產流程分析,如下圖所示:

 

三、Consumer 模塊分析

  • 消費數據來源分析
消費數據源統計的KPI指標,如下圖所示:
 

 

  • Kafka 到 Storm 流程分析
數據源消費流程分析,如下圖所示:
 

 

四、項目整體設計

1.項目詳細設計流程

項目詳細設計流程,如下圖所示:

2.KPI 指標設計

KPI 指標設計,如下圖所示:
 
本節我們項目進行了整體分析,並指導大家去分析 Kakfa 的 Producer 模塊和 Consumer 模塊,以及幫助大家去設計項目的開發流程等知識,應該掌握以下知識:
•項目的背景和目的
•分析 Producer 模塊和 Consumer 模塊
•項目的整體開發流程
•KPI 指標的設計
 


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM