Hadoop3.0新特性介绍，比Spark快10倍的Hadoop3.0新特性 Apache hadoop 项目组最新消息，hadoop3.x以后将会调整方案架构，将Mapreduce 基于内存+io ...

前言： 有一段时间没有写博客了(发现这是我博客最常见的开头，不过这次间隔真的好长），前段时间事情比较多，所以耽搁得也很多。 现在准备计划写一个新的专题，叫做《hadoop杂记》，里面的文章有深有浅 ...

最近在部署Hive上线，结果在线上线下同时出现了MoveTask报错的现象，虽然两者错误的日志以及错误信息一样，但是经过分析解决又发现两者的原因是不一样的。 首先线下的错误日志： 这 ...

数据去重： 原理(理解)：Mapreduce程序首先应该确认<k3,v3>,根据<k3,v3>确定<k2,v2>，原始数据中出现次数超过一次的数据在输 ...

TextInputFormat 父类(TextInputFormat本身含义为把每一行解析成键值对) FileInputFor ...

一、MapReduce的优缺点： 优点：1.易于编程；2.良好的扩展性；3.高容错性；4.适合PB级别以上的大数据的分布式离线批处理。 缺点：1.难以实时计算（MapReduce处理的是存储在本地 ...

临时要处理一批数据,目标是从销售订单明细获得电子商务常见的一些推荐:1.购买了XX的用户还购买了什么 2.XX经常和YY一起购买 3.XX商品被同一用户多次购买;这是典型的MapReduce场景, ...

分组：相同key的value进行分组 例子：如下输入输出，右边的第一列没有重复值，第二列取得是当第一列相同时第二例取最大值 分析：首先确定<k3,v3& ...

第一部分.Hadoop计数器简述 hadoop计数器: 可以让开发人员以全局的视角来审查程序的运行情况以及各项指标，及时做出错误诊断并进行相应处理。 内置计数器（MapRedu ...