在使用flume采集日志寫入到hdfs時，用到了lzo壓縮算法，這個算法將讓保存的文件縮小為原文件的三分之一。由於此壓縮算法不是hadoop默認的，需要另外安裝，下面記錄下，全文主要參考文末博文完成。 編譯安裝lzo和lzop 注意，有多少個節點，就安裝多個少！注意，有多少個節點，就安裝多個少 ...

在hive中要想使用lzo的格式,需要配置安裝好lzo工具並且在hadoop的core-site.xml與mapred-site.xml中配置相應的配置 一、編譯安裝lzo與lzop 在集群的每一台主機上都需要編譯安裝！！！ 1.下載編譯安裝lzo文件 ...

目錄 一.編譯 二.相關配置 三.為LZO文件創建索引 四.Hive為LZO文件建立索引 1.hive創建的lzo壓縮的分區表 2.給.lzo壓縮文件建立索引index 3.讀取Lzo文件的注意事項(重要 ...

【轉自】http://my.oschina.net/u/1169079/blog/225070 經常用於處理大量的數據，如果期間的輸出數據、中間數據能壓縮存儲，對系統的I/O性能會有提升。綜合考慮壓縮、解壓速度、是否支持split，目前lzo是最好的選擇。LZO（LZO ...

【簡介】 1@LZO本身是不支持分片的，但是我們給LZO壓縮的文件加上索引，就支持分片了 2@Linux本身是不支持LZO壓縮的，所以我們需要下載安裝軟件包，其中包括三個：lzo,lzop,hdoop-gpl-packaging. 3@hdoop-gpl-packaging的主要作用 ...

0. 環境准備 maven（下載安裝，配置環境變量，修改sitting.xml加阿里雲鏡像） gcc-c++ zlib-devel autoconf automake libtool 通過yum安裝即可 1. 下載、安裝並編譯LZO ...

幾種壓縮方式對比： LZO example: https://github.com/twitter/hadoop-lzo/blob/master/src/test/java/com/hadoop/mapreduce/TestLzoTextInputFormat.java 給lzo文件加 ...

環境： ubuntu hadoop-2.6.0 hive-1.1.0 1 2 3 5 6 7 ...