一、自定义InputFormat 　　InputFormat是输入流，在前面的例子中使用的是文件输入输出流FileInputFormat和FileOutputFormat，而FileInputFormat和FileOutputFormat它们默认使用的是继承它们的子类 ...

引言： 　　无论HDFS还是MapReduce，在处理小文件时效率都非常低，但又难免面临处理大量小文件的场景，此时，就需要有相应解决方案。可以自定义InputFormat实现小文件的合并。（对外是一个整文件，对内仍是原先的小文件，节省MapTask） 需求如下： 　　将多个小文件合并成一个 ...

回顾： 　　在上一篇https://www.cnblogs.com/superlsj/p/11857691.html详细介绍了InputFormat的原理和常见的实现类。总结来说，InputFormat是将文件切片----->再转化为<key--value>对转交给Mapper ...

　　在MR程序的开发过程中，经常会遇到输入数据不是HDFS或者数据输出目的地不是HDFS的，MapReduce的设计已经考虑到这种情况，它为我们提供了两个组建，只需要我们自定义适合的InputFormat和OutputFormat，就可以完成这个需求，这里简单的介绍一个从MongoDB中读数 ...

()，但在某些情况下HDFS中需要存储自定义格式的文件，需要更加灵活的读取方式。 使用KeyValueT ...

1. 小文件的产生原因 定义: 当一个文件的大小小于 HDFS 的块大小（默认128MB）就认定为小文件，否则就是大文件 批处理,离线计算, 会有小文件的产生; 数据处理时,把数据源搬迁到 HDFS,如果数据源本身就是有很多小文件; MapReduce作业 ...

　　　　　　　　　　　　自定义InputFormat代码实现 　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　作者：尹正杰 版权声明：原创作品，谢绝转载！否则将追究法律责任。 一.MapReduce并行度决定机制 二.官方提供 ...

1. Mapper 与 Reducer 数量 对于一个默认的MapReduce Job 来说，map任务的数量等于输入文件被划分成的分块数，这个取决于输入文件的大小以及文件块的大小（如果此文件在 HDFS中）。但是对于 reduce的任务，并不会自动决定reducer数目的大小，若未指定 ...