離線和實時大數據開發實戰 目 錄 前言 第一篇 數據大圖和數據平台大圖 第1章 數據大圖 2 1.1 數據流程 2 1.1.1 數據產生 3 1.1.2 數據采集和傳輸 5 1.1.3 數據存儲處理 6 1.1.4 數據應用 7 1.2 數據技術 8 1.2.1 數據采集傳輸 ...

大數據平台現狀 餓了么的大數據平台團隊成立於2015年5月份左右，在16年4月份，Hadoop集群規模還只在100+節點數，而在一年時間里集群規模快速增長到1000+的水平，這還是在引入數據生命周期進行管控的情況下的規模增速；同樣，流計算集群的規模雖然相對較小，但也經歷了10倍的增長，一些 ...

大數據的熱度在持續的升溫，繼雲計算之后大數據成為又一大眾所追捧的新星。我們暫不去討論大數據到底是否適用於您的組織，至少在互聯網上已經被吹噓成無所不能的超級戰艦。好像一夜之間我們就從互聯網時代跳躍進了大數據時代！關於到底什么是大數據，說真的，到目前為止就和雲計算一樣，讓我總覺得像是在看電影《雲圖 ...

一、總體設計 初來公司時，公司還沒有大數據，我是作為大數據架構師招入的，結合公司的線上和線下業務，制定了如下的大數據架構路線圖。 二、大數據任務開發和調度平台架構設計 在設計完總體架構后，並且搭建完hadoop/yarn的大數據底層計算平台后， 按照總體架構設計思路， 首先需要構建 ...

Lambda架構由Storm的作者Nathan Marz提出。旨在設計出一個能滿足。實時大數據系統關鍵特性的架構，具有高容錯、低延時和可擴展等特。 Lambda架構整合離線計算和實時計算，融合不可變（Immutability，讀寫分離和隔離 一系列構原則，可集成Hadoop，Kafka，Storm ...

項目綜述 在本次課程中，項目分別分為bigdata_track，bigdata_transforer和bigdata_dataapi。本次項目主要以分析七個模塊的數據，分別為用戶基本信息分析、操作系統分析、地域信息分析、用戶瀏覽深度分析、外鏈數據分析、訂單信息分析以及事件分析。那么針對不同的分析 ...

一、數據展示系統(bigdata_dataapi)總述 bigdata_dataapi項目的主要目標有兩個：第一個就是我們需要提供一個提供json數據的Rest API；另外一個目標就是提供一個展示結果的demo頁面。bigdata_dataapi使用 ...

目前大數據平台有很多，這就需要我們可以對大數據平台進行分類，這就可以從大數據處理的過程、大數據處理的數據類型、大數據處理的方式以及平台對數據的部署方式這幾方面進行。 首先我們從大數據處理的方式來划分，這樣我們就能夠把大數據平台分為批量處理、實時處理、綜合處理。其中批量數據是對成批數據進行 ...