Hadoop2源码分析－MapReduce篇
1.概述 前面我们已经对Hadoop有了一个初步认识，接下来我们开始学习Hadoop的一些核心的功能，其中包含mapreduce，fs，hdfs，ipc，io，yarn，今天为大家分享的是mapreduce部分，其内容目录如下所示： MapReduce V1 MapReduce ...
原文：Hadoop2源码分析－HDFS核心模块分析
.概述 这篇博客接着 Hadoop 源码分析 RPC机制初识 来讲述，前面我们对MapReduce 序列化 RPC进行了分析和探索，对Hadoop V 的这些模块都有了大致的了解，通过对这些模块的研究，我们明白了MapReduce的运行流程以及内部的实现机制，Hadoop的序列化以及它的通信机制 RPC 。今天我们来研究另一个核心的模块，那就是Hadoop的分布式文件存储系统 HDFS，下面是今 ...
2015-06-04 11:15 0 4843 推荐指数：
相关推荐
Hadoop2源码分析－准备篇
1.概述 我们已经能够搭建一个高可用的Hadoop平台了，也熟悉并掌握了一个项目在Hadoop平台下的开发流程，基于Hadoop的一些套件我们也能够使用，并且能利用这些套件进行一些任务的开发。在Hadoop的应用级别上，我们接着往后面去研究学习，那就是Hadoop的源码了，作为Hadoop ...
Hadoop2源码分析－RPC探索实战
1.概述 在《Hadoop2源码分析－RPC机制初识》博客中，我们对RPC机制有了初步的认识和了解，下面我们对Hadoop V2的RPC机制做进一步探索，在研究Hadoop V2的RPC机制，我们需要掌握相关的Java基础知识，如：Java NIO、动态代理与反射等。本篇博客介绍的内容目录 ...
Hadoop2源码分析－RPC机制初识
1.概述 上一篇博客，讲述Hadoop V2的序列化机制，这为我们学习Hadoop V2的RPC机制奠定了基础。RPC的内容涵盖的信息有点多，包含Hadoop的序列化机制，RPC，代理，NIO等。若对Hadoop序列化不了解的同学，可以参考《Hadoop2源码分析－序列化篇》。今天这篇博客 ...
Hadoop2源码分析－YARN RPC 示例介绍
1.概述 之前在《Hadoop2源码分析－RPC探索实战》一文当中介绍了Hadoop的RPC机制，今天给大家分享关于YARN的RPC的机制。下面是今天的分享目录： YARN的RPC介绍 YARN的RPC示例 截图预览 下面开始今天的内容分享。 2.YARN的RPC ...
Hadoop2源码分析－序列化篇
1.概述 上一篇我们了解了MapReduce的相关流程，包含MapReduce V2的重构思路，新的设计架构，与MapReduce V1的区别等内容，今天我们在来学习下在Hadoop V2中的序列化的相关内容，其目录如下所示： 序列化的由来 Hadoop序列化依赖图详解 ...
Hadoop源码分析(1)：HDFS读写过程解析
一、文件的打开 1.1、客户端 HDFS打开一个文件，需要在客户端调用DistributedFileSystem.open(Path f, int bufferSize)，其实现为： public FSDataInputStream open(Path f, int ...
Hadoop之HDFS原理及文件上传下载源码分析（上）
HDFS原理 首先说明下，hadoop的各种搭建方式不再介绍，相信各位玩hadoop的同学随便都能搭出来。 楼主的环境： 操作系统：Ubuntu 15.10 hadoop版本：2.7.3 HA：否（随便搭了个伪分布式） 文件上传 下图描述 ...