Hive中使用LZO
hive 中使用lzo 1 启动hive 错误Exception in thread "main" java.lang.NoClassDefFoundError: org/apache/hadoop/hive/conf/HiveConf ...
原文：MR案例：MR和Hive中使用Lzo压缩
在MapReduce中使用lzo压缩 .首先将数据文件在本地使用lzop命令压缩。具体配置过详见配置hadoop集群的lzo压缩 .将lzo文件上传到hdfs .给Lzo文件建立索引Index 两种方式 .编写MapReduce程序 需要添加的额外包hadoop lzo . . .jar .运行hadoop jar 如若未在程序中配置输入和输出都为Lzo格式，可以在命令行通过 D 开头的参数进行配 ...
2015-08-28 13:48 0 2164 推荐指数：
相关推荐
重要 ｜ mr使用hcatalog读写hive表
企业中，由于领导们的要求，hive中有数据存储格式很多时候是会变的，比如为了优化将tsv，csv格式改为了parquet或者orcfile。那么这个时候假如是mr作业读取hive的表数据的话，我们又要重新去写mr并且重新部署。这个时候就很蛋疼。hcatalog帮我们解决了这个问题 ...
hive如何执行mr
hive的库、表等数据实际是hdfs系统中的目录和文件，让开发者可以通过sql语句， 像操作关系数据库一样操作文件内容， 比如执行查询，统计，插入等操作。一直很好奇hive是如何做到这些的。通过参考网上几篇不错的文档， 有点小心得分享出来。主要的参考链接 http ...
Hive on MR调优
当HiveQL跑不出来时，基本上是数据倾斜了，比如出现count(distinct)，groupby，join等情况，理解 MR 底层原理，同时结合实际的业务，数据的类型，分布，质量状况等来实际的考虑如何进行系统性的优化。 Hive on MR 调优主要从三个层面进行，分别 ...
Hadoop、Hive【LZO压缩配置和使用】
目录 一.编译 二.相关配置 三.为LZO文件创建索引 四.Hive为LZO文件建立索引 1.hive创建的lzo压缩的分区表 2.给.lzo压缩文件建立索引index 3.读取Lzo文件的注意事项(重要 ...
MR案例：输出/输入SequenceFile
SequenceFile文件是Hadoop用来存储二进制形式的key-value对而设计的一种平面文件(Flat File)。在SequenceFile文件中，每一个key-value对被看做是一条记录(Record)，基于Record的压缩策略，SequenceFile文件支持三种压缩类型 ...
hadoop, hive 启用LZO压缩
环境： ubuntu hadoop-2.6.0 hive-1.1.0 1 2 3 5 6 7 ...
HIVE源码(1):HQL 是如何转换为 MR 任务的
1 Hive 的核心组成介绍 1）用户接口：Client CLI（command-line interface）、JDBC/ODBC(jdbc 访问 hive)、WEBUI（浏览器访问 hive） 2）元数据：Metastore 元数据 ...