Apache Spark源码走读之8 -- Spark on Yarn
欢迎转载，转载请注明出处，徽沪一郎。 概要 Hadoop2中的Yarn是一个分布式计算资源的管理平台，由于其有极好的模型抽象，非常有可能成为分布式计算资源管理的事实标准。其主要职责将是分布式计算集群的管理，集群中计算资源的管理与分配。 Yarn为应用程序开发提供了比较好的实现标准，Spark ...
原文：Apache Spark源码走读之10 -- 在YARN上运行SparkPi
y欢迎转载，转载请注明出处，徽沪一郎。 概要 spark已经比较头痛了，还要将其运行在yarn上，yarn是什么，我一点概念都没有哎，再怎么办啊。不要跟我讲什么原理了，能不能直接告诉我怎么将spark在yarn上面跑起来，I m a dummy, just told me how to do it. 如果你和我一样是一个对形而上的东西不是太感兴趣，而只纠结于怎么去做的话，看这份guide保证不会让 ...
2014-05-19 18:30 0 4045 推荐指数：
相关推荐
Apache Spark源码走读之12 -- Hive on Spark运行环境搭建
欢迎转载，转载请注明出处，徽沪一郎。 楔子 Hive是基于Hadoop的开源数据仓库工具，提供了类似于SQL的HiveQL语言，使得上层的数据分析人员不用知道太多MapReduce的知识就能对存 ...
Apache Spark源码走读之2 -- Job的提交与运行
欢迎转载，转载请注明出处，徽沪一郎。 概要 本文以wordCount为例，详细说明spark创建和运行job的过程，重点是在进程及线程的创建。 实验环境搭建 在进行后续操作前，确保下列条件已满足。 下载spark binary 0.9.1 安装scala 安装sbt ...
Apache Spark源码走读之9 -- Spark源码编译
欢迎转载，转载请注明出处，徽沪一郎。 概要 本来源码编译没有什么可说的，对于java项目来说，只要会点maven或ant的简单命令，依葫芦画瓢，一下子就ok了。但到了Spark上面，事情似乎不这么简单，按照spark officical document上的来做，总会出现这样或那样的编译 ...
Apache Spark源码走读之3 -- Task运行期之函数调用关系分析
欢迎转载，转载请注明出处，徽沪一郎。 概要 本篇主要阐述在TaskRunner中执行的task其业务逻辑是如何被调用到的，另外试图讲清楚运行着的task其输入的数据从哪获取，处理的结果返回到哪里，如何返回。 准备 spark已经安装完毕 spark运行在local mode ...
Apache Spark源码走读之1 -- Spark论文阅读笔记
欢迎转载，转载请注明出处，徽沪一郎。 楔子 源码阅读是一件非常容易的事，也是一件非常难的事。容易的是代码就在那里，一打开就可以看到。难的是要通过代码明白作者当初为什么要这样设计，设计之初要解决的主要问题是什么。 在对Spark的源码进行具体的走读之前，如果想要快速对Spark的有一个整体性 ...
Apache Spark源码走读之13 -- hiveql on spark实现详解
欢迎转载，转载请注明出处，徽沪一郎 概要 在新近发布的spark 1.0中新加了sql的模块，更为引人注意的是对hive中的hiveql也提供了良好的支持，作为一个源码分析控，了解一下spark是如何完成对hql的支持是一件非常有趣的事情。 Hive简介 Hive的由来 以下部分摘自 ...
Apache Spark源码走读之16 -- spark repl实现详解
欢迎转载，转载请注明出处,徽沪一郎。 概要 之所以对spark shell的内部实现产生兴趣全部缘于好奇代码的编译加载过程，scala是需要编译才能执行的语言，但提供的scala repl可以实现代码的实时交互式执行，这是为什么呢？ 既然scala已经提供了repl，为什么spark还要 ...