flume1.7一直都是自己修改源代码实现断点续传，1.7之后出现taildir source实现断点续传。 https://blog.csdn.net/Abysscarry/article/details/89420560 小文件过多的解决方案： https ...

最近发现离线任务对一个增量Hive表的查询越来越慢，这引起了我的注意，我在cmd窗口手动执行count操作查询发现，速度确实很慢，才不到五千万的数据，居然需要300s，这显然是有问题的，我推测可能是有小文件。 我去hdfs目录查看了一下该目录： 发现确实有很多小文件，有480个小文件 ...

在日常编程中我们都会遇到与后端联调接口的各种问题，最常见的就是处理返回数据过多或者数据过于复杂的情况，接下来我们就来一起探索一下如何处理这类问题。 后端返回的数据过多会造成页面加载数据的时候卡死不动，那么这种情况我们该如何处理 采用的办法有两种 ...

参考https://www.cnblogs.com/flymin/p/11345646.html 小文件：存储于HDFS中小文件，即指文件的大小远小于HDFS上块（dfs.block.size）大小的文件。 ...

一、小文件是如何产生的 1.动态分区插入数据，产生大量的小文件，从而导致map数量剧增。 2.reduce数量越多，小文件也越多(reduce的个数和输出文件是对应的)。 3.数据源本身就包含大量的小文件。 二、小文件问题的影响 1.从Hive的角度看，小文件会开很多map，一个 ...

小文件问题原因： ① 众所周知，小文件在HDFS中存储本身就会占用过多的内存空间，那么对于MR查询过程中过多的小文件又会造成启动过多的Mapper Task, 每个Mapper都是一个后台线程，会占用JVM的空间。 ② 在Hive中，动态分区会造成在插入数据过程中，生成过多零碎的小文件 ...

今天习惯性更新manjaro并重启之后，发现电脑时不时卡顿，连用vscode写代码都不流畅。 去manjaro论坛找了一下升级announcement，并没有发现类似情况，于是htop看了一下，发现 ...

1、hive.merge.mapfiles，True时会合并map输出。2、hive.merge.mapredfiles，True时会合并reduce输出。3、hive.merge.size.per.task，合并操作后的单个文件 ...