原文:Hadoop2源码分析-序列化篇

.概述 上一篇我们了解了MapReduce的相关流程,包含MapReduce V 的重构思路,新的设计架构,与MapReduce V 的区别等内容,今天我们在来学习下在Hadoop V 中的序列化的相关内容,其目录如下所示: 序列化的由来 Hadoop序列化依赖图详解 Writable常用实现类 下面,我们开始学习今天的内容。 .序列化的由来 我们知道Java语言对序列化提供了非常友好的支持,在 ...

2015-04-21 10:34 3 2331 推荐指数:

查看详情

Hadoop2源码分析-MapReduce

1.概述   前面我们已经对Hadoop有了一个初步认识,接下来我们开始学习Hadoop的一些核心的功能,其中包含mapreduce,fs,hdfs,ipc,io,yarn,今天为大家分享的是mapreduce部分,其内容目录如下所示: MapReduce V1 MapReduce ...

Fri Apr 17 20:06:00 CST 2015 0 4630
Hadoop2源码分析-准备

1.概述   我们已经能够搭建一个高可用的Hadoop平台了,也熟悉并掌握了一个项目在Hadoop平台下的开发流程,基于Hadoop的一些套件我们也能够使用,并且能利用这些套件进行一些任务的开发。在Hadoop的应用级别上,我们接着往后面去研究学习,那就是Hadoop源码了,作为Hadoop ...

Sun Apr 12 08:19:00 CST 2015 2 4565
Hadoop2源码分析-RPC探索实战

1.概述   在《Hadoop2源码分析-RPC机制初识》博客中,我们对RPC机制有了初步的认识和了解,下面我们对Hadoop V2的RPC机制做进一步探索,在研究Hadoop V2的RPC机制,我们需要掌握相关的Java基础知识,如:Java NIO、动态代理与反射等。本篇博客介绍的内容目录 ...

Fri May 08 19:05:00 CST 2015 0 2227
Hadoop2源码分析-RPC机制初识

1.概述   上一博客,讲述Hadoop V2的序列化机制,这为我们学习Hadoop V2的RPC机制奠定了基础。RPC的内容涵盖的信息有点多,包含Hadoop序列化机制,RPC,代理,NIO等。若对Hadoop序列化不了解的同学,可以参考《Hadoop2源码分析序列化》。今天这篇博客 ...

Mon Apr 27 19:54:00 CST 2015 1 2600
fastjson源码分析序列化

  fastJson是很常用的序列化工具,用了这么久一直想底层看一下它的设计,探究一下它序列化和反序列化效率高的秘密。现在从最基础的用法开始,一点点揭开fastJson神秘的面纱。(版本:1.2.50)   实际工程里,最常用的就是序列化和反序列化:   ResultDO resultDO ...

Tue Jul 09 19:25:00 CST 2019 0 647
【Zookeeper】源码分析序列化

一、前言   在完成了前面的理论学习后,现在可以从源码角度来解析Zookeeper的细节,首先笔者想从序列化入手,因为在网络通信、数据存储中都用到了序列化,下面开始分析。 二、序列化   序列化主要在zookeeper.jute包中,其中涉及的主要接口 ...

Fri Jan 13 00:40:00 CST 2017 1 6154
Hadoop序列化

1.序列化 所谓的序列化,就是将结构对象转化为字节流,以便在网络上传输或是写道磁盘进行永久存储。反序列化,就是将字节流转化为结构对象。在Java中也存在序列化,刚学Java的时候,接触的第一个项目就是QQ聊天系统,也就是网络编程,其中,用到的就是字符流传输数据,通过对象序列化 ...

Fri Dec 12 00:26:00 CST 2014 0 2379
Hadoop2源码分析-HDFS核心模块分析

1.概述   这篇博客接着《Hadoop2源码分析-RPC机制初识》来讲述,前面我们对MapReduce、序列化、RPC进行了分析和探索,对Hadoop V2的这些模块都有了大致的了解,通过对这些模块的研究,我们明白了MapReduce的运行流程以及内部的实现机制,Hadoop序列化 ...

Thu Jun 04 19:15:00 CST 2015 0 4843
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM