大数据开发你需要知道的十个技术
前言 “当你不创造东西时，你只会根据自己的感觉而不是能力去看待问题。” – WhyTheLuckyStiff 汇总一些自己在大数据路上走过的弯路，愿 ...
原文：你不得不知道的十个大数据面试题
海量日志数据，提取出某日访问百度次数最多的那个IP 解法 ： 海量日志，文件太大，IP地址最多有 G，无法装入内存，，将这个大文件 hash映射：可以取模 分成多个小文件 如 。 对每个小文件进行hash统计，hash map ip,value , 得到每个文件出现频率最多的ip 将这些频率最高的ip进行统计，然后排序得出最大值，这里可以采用堆 快速 归并，但只取一个最大值的话可以采用堆排序。 ...
2016-09-25 20:34 0 2651 推荐指数：
相关推荐
[不得不知道系列]微服务面试你不得不知道的基础知识
Java内存管理面试指南一 Java基础面试指南一 Java基础面试指南二 Java基础面试指南三 Java基础面试指南四 Java线程面试指南一 Java线程面试指南二 Redis面试指南一 Kafka面试指南一 Spring面试指南 ...
大数据面试题(一)----HADOOP 面试题
1. 下列哪项通常是集群的最主要瓶颈（C） A. CPU B. 网络 C. 磁盘IO D. 内存 2. 下列哪项可以作为集群的管理工具？（C） A.Puppet B.Pdsh C.Cl ...
大数据面试题总结
面试题总结: 分布式文件系统（Distributed File System）是指文件系统管理的物理存储资源不一定直接连接在本地节点上，而是通过计算机网络与节点相连。分布式文件系统的设计基于客户机/服务器模式。 [优点] 支持超大文件 超大文件在这里指的是几百M，几百GB，甚至几TB大小 ...
大数据面试题
判断题： 1.如果 NameNode 意外终止，SecondaryNameNode 会接替它使集群继续工作。（错误） 分析： SecondaryNameNode是帮助恢复，而不是替代 S ...
苏宁大数据面试题
1. hadoop 使用什么版本，CDH版本号，是5.3.6 。hadoop的版本是2.72，记住cdh的版本号和hadoop版本号不一样。2. flume是单节点采集数据还是多节点采集数据？flume是自定义框架还是用官方提供的框架？官方框架开发中有什么问题 ...
大数据面试题(一)
一、.hdfs写文件的步骤 答案： (1)client向NameNode申请上传…/xxx.txt文件 (2)NN向client响应可以上传文件 (3)Client向NameNode申请Dat ...
大数据高频面试题
面试中的问题（重点）** 1. RDD的特性（RDD的解释）1.RDD可以看做是一些列partition所组成的2.RDD之间的依赖关系3.算子是作用在partition之上的4.分区器是作用在kv形式的RDD上5.partition提供的最佳计算位置,利于数据处理的本地化即计算向数据移动 ...