大數據時代這個詞被提出已有10年了吧，越來越多的企業已經完成了大數據平台的搭建。隨着移動互聯網和物聯網的爆發，大數據價值在越來越多的場景中被挖掘，隨着大家都在使用歐冠大數據，大數據平台的搭建門檻也越來越低。借助開源的力量，任何有基礎研發能力的組織完全可以搭建自己的大數據平台。但是對於沒有了解 ...

在數據治理中，數據探索服務的價值在初期往往是被忽視的，但是隨着業務的增加，分析人員的增加，數據探索服務的價值就會越來越大。 一個成功的數據管理平台，不僅僅要提供各種數據分析的工具，提供各種各樣的數據源，更要提供數據探索的能力。 為什么數據探索服務很重要？ 想象一下，作為一名數據科學家 ...

、Hive、Pig、 Hbase、Zookeeper、Sqoop,簡化了大數據平台的安裝、使用難度。 ...

Ambari Ambari 跟 Hadoop 等開源軟件一樣，也是 Apache Softwar ...

　　一、概念 　　Hadoop是由java語言編寫的，在分布式服務器集群上存儲海量數據並運行分布式分析應用的開源框架，其核心部件是HDFS與MapReduce。HDFS是一個分布式文件系統，類似mogilefs，但又不同於mogilefs，hdfs由存放文件元數據信息的namenode和存放數據 ...

做任何事情都要有目標，然后根據這個目標根據自身的條件和外部的情況制定一個思路，這個思路也可以理解為實現目標的路徑。那么大數據的平台搭建也不例外。 腳本工具化 沒有一個統一的解決方案，針對一些基礎通用的功能也沒有做抽象和提取，導致腳本維護的成本增加，后期服用的成本也會增高，有重復造輪子的嫌疑 ...

目前大數據平台經常會用來跑一些批任務，跑批處理當然就離不開定時任務。比如定時抽取業務數據庫的數據，定時跑hive/spark任務，定時推送日報、月報指標數據。任務調度系統已經儼然成為了大數據處理平台不可或缺的一部分。 一、原始任務調度 記得第一次參與大數據平台從無到有的搭建，最 ...

一、Hadoop集群環境搭建配置 1、前言 Hadoop的搭建分為三種形式：單機模式、偽分布模式、完全分布模式，只要掌握了完全分布模式，也就是集群模式的搭建，剩下的兩種模式自然而然就會用了，一般前兩種模式一般用在開發或測試環境下，Hadoop最大的優勢就是分布式集群計算，所以在 ...