原文:看看spark的源码

IntelliJ IDEA安装plugins,加入scala插件和SBT插件 下载spark的源代码,下载地址https: github.com apache spark,可以使用git下载或者下载zip包 导入项目,开启 IntelliJ 之后选择 Import Project,而后选择 Spark 源代码,并将其导入为 SBT 项目,在之后的过程中 SBT 过程将会自动进行,下载作为依赖的 ...

2018-10-10 16:03 0 1109 推荐指数:

查看详情

看看基于Kubernetes的Spark部署完全指南

本文是在Kubernets上搭建Spark集群的操作指南,同时提供了Spark测试任务及相关的测试数据,通过阅读本文,你可以实践从制作Spark镜像、搭建Spark容器集群,到在集群上运行测试任务的完整流程。 Yarn曾经是Hadoop默认的资源编排管理 ...

Wed May 20 04:12:00 CST 2020 0 951
透过源码看看Redis中如何计算QPS

通常我们采集Redis的性能数据时,或者想要知道Redis当前的性能如何时,需要知道这个实例的QPS数据,那么这个QPS数据是如何计算的呢?我们都有哪些办法或者这个QPS ? QPS顾名思义 ...

Sat Jun 17 07:26:00 CST 2017 0 1491
Spark源码分析之Spark Shell(上)

终于开始看Spark源码了,先从最常用的spark-shell脚本开始吧。不要觉得一个启动脚本有什么东东,其实里面还是有很多知识点的。另外,从启动脚本入手,是寻找代码入口最简单的方法,很多开源框架,其实都可以通过这种方式来寻找源码入口。 先来介绍一下Spark-shell是什么 ...

Sat Feb 18 18:37:00 CST 2017 0 4241
Spring MVC的工作原理,我们来看看源码实现

前言   开心一刻     晚上陪老丈人吃饭,突然手机响了,我手贱按了免提……哥们:快出来喝酒!哥几个都在呢!我:今天不行,我现在陪老丈人吃饭呢。哥们:那你抓紧喝,我三杯白酒,把我岳父放倒了才出来 ...

Thu Jun 06 16:58:00 CST 2019 4 906
Apache Spark源码走读之9 -- Spark源码编译

欢迎转载,转载请注明出处,徽沪一郎。 概要 本来源码编译没有什么可说的,对于java项目来说,只要会点maven或ant的简单命令,依葫芦画瓢,一下子就ok了。但到了Spark上面,事情似乎不这么简单,按照spark officical document上的来做,总会出现这样或那样的编译 ...

Sat May 17 00:44:00 CST 2014 4 5352
Spark源码系列(九)spark源码分析以及优化

第一章、spark源码分析之RDD四种依赖关系 一、RDD四种依赖关系 RDD四种依赖关系,分别是 ShuffleDependency、PrunDependency、RangeDependency和OneToOneDependency四种依赖关系。如下图所示 ...

Wed May 27 23:44:00 CST 2020 0 592
Dubbo源码学习之-通过源码看看dubbo对netty的使用

前言 前段时间,从头开始将netty源码了解了个大概,但都是原理上理解。刚好博主对dubbo框架了解过一些,这次就以dubbo框架为例,详细看看dubbo这种出色的开源框架是如何使用netty的,又是如何与框架本身逻辑进行融合的。 本文分成两大部分,一部分是dubbo服务端 ...

Sun Aug 23 07:03:00 CST 2020 1 900
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM