由於公司業務需求，需要搭建一套實時處理數據平台，基於多方面調研選擇了Flink. 初始化Swarm環境(也可以選擇k8s) 　　部署zookeeper集群 基於docker-compose ,使用 docker stack 部署在容器中,由於zookeeper存在數據持久化存儲，這塊 ...

我在一次社區活動中做過一次分享，演講題目為《大數據平台架構技術選型與場景運用》。在演講中，我主要分析了大數據平台架構的生態環境，並主要以數據源、數據采集、數據存儲與數據處理四個方面展開分析與講解，並結合具體的技術選型與需求場景，給出了我個人對大數據平台的理解。本文講解數據處理部分 ...

大數據可以說是從搜索引擎誕生之處就有了，我們熟悉的搜索引擎，如百度搜索引擎、360搜索引擎等可以說是大數據技處理技術的最早的也是比較基礎的一種應用。大概在2015年大數據都還不是非常火爆，2015年可以說是大數據的一個分水嶺。隨着互聯網技術的快速發展，大數據也隨之迎來它的發展高峰期。 整個大數據處理 ...

摘要： Flink是jvm之上的大數據處理引擎。 Flink是jvm之上的大數據處理引擎，jvm存在java對象存儲密度低、full gc時消耗性能，gc存在stw的問題，同時omm時會影響穩定性。同時針對頻繁序列化和反序列化問題flink使用堆內堆外內存可以直接在一些場景下操作二進制數據 ...

storm、spark streaming、flink都是開源的分布式系統，具有低延遲、可擴展和容錯性諸多優點，允許你在運行數據流代碼時，將任務分配到一系列具有容錯能力的計算機上並行運行,都提供了簡單的API來簡化底層實現的復雜程度。 Apache Storm 在Storm中，先要設計一個用於 ...

隨着前端的飛速發展，在瀏覽器端完成復雜的計算，支配並處理大量數據已經屢見不鮮。那么，如何在最小化內存消耗的前提下，高效優雅地完成復雜場景的處理，越來越考驗開發者功力，也直接決定了程序的性能。 本文展現了一個完全在控制台就能模擬體驗的實例，通過一步步優化，實現了生產並操控多個1000000（百萬 ...

2.1概述 2.1.1Hadoop簡介 Hadoop是Apache軟件基金會旗下的一個開源分布式計算平台，為用戶提供了系統底層細節透明的分布式基礎架構 Hadoop是基於Java語言開發的，具有很好的跨平台特性，並且可以部署在廉價的計算機集群中 Hadoop的核心是分布式文件系統 ...

大數據處理流程 上圖是一個簡化的大數據處理流程圖，大數據處理的主要流程包括數據收集、數據存儲、數據處理、數據應用等主要環節。下面我們逐一對各個環節所需要的技術棧進行講解： 數據收集 大數據處理的第一步是數據的收集。現在的中大型項目通常采用微服務架構進行分布式部署，所以數據 ...