工欲善其事必先利其器，在經過大量的理論學習以后，需要有一個本地的研發環境來進行練手。已經工作的可以不依賴於公司的環境，在家也可以隨意的練習。而自學大數據的同學，也可以進行本地練習，大數據是一門偏實踐的學科，在找工作之前進行一些實踐操作，也更利於對大數據知識的理解。 本文將從頭開始詳細的記錄整個 ...

REST（representational state transfer） 接口開發 接口規范 冪等：無論操作多少次，請求的結果都是一樣的。 安全：訪問資源不會對資源發生修改。 POST的不冪等，應 ...

1、概述 Presto是一個分布式SQL查詢引擎，用於查詢分布在一個或多個不同數據源中的大數據集。presto可以通過使用分布式查詢，可以快速高效的完成海量數據的查詢。它是完全基於內存的，所以速度非常快。presto不僅可以查詢HDFS，還可以查詢RDMBS數據庫。 具體的介紹可以參考 ...

ETL 概念 ETL 這個術語來源於數據倉庫，ETL 指的是將業務系統的數據經過抽取、清洗轉換之后加載到數據倉庫的過程。ETL 的目的是將企業中的分散、零亂、標准不統一的數據整合到一起，為企業的決策提供分析依據。 ETL是 BI 項目重要的一個環節。 通常情況下，在 BI 項目中 ETL ...

當前的公司是專業從事氣象軟件開發，從氣象大數據對大數據有一些自己的認識。2008年 《自然》雜志提出“大數據”概念 ，而2013為公認的大數據元年。 大數據不僅包含數據，還包括處理數據的工具和技術。一般會經過采集->存儲->處理->分析四個階段，其實處 ...

大數據技術 大數據主要涉及到數據的采集、存儲、計算和分析、以及管理調度。 數據的采集 數據存儲 數據管理調度 數據計算和分析 大數據技術涉及：數據的采集、預處理、和分布式存儲、以及數據倉庫、機器學習、並行計算和可視化等方面。 對於大數據技術，應用廣泛 ...

1 ...

1.為什么產生大數據技術 對於“大數據”（Big data）研究機構Gartner給出了這樣的定義。“大數據”是需要新處理模式才能具有更強的決策力、洞察發現力和流程優化能力來適應海量、高增長率和多樣化的信息資產。 隨着雲時代的來臨，大數據（Big data）也吸引了越來越多的關注。分析師 ...