原文:window环境下使用sbt编译spark源码

前些天用maven编译打包spark,搞得焦头烂额的,各种错误,层出不穷,想想也是醉了,于是乎,换种方式,使用sbt编译,看看人品如何 首先,从官网spark官网下载spark源码包,解压出来。我这边使用的是 . . 版本。 然后,我们需要把sbt配置好,配置很简单,无非就是SBT HOME什么的,大家可以参考官网给出的安装配置手册。 在window的命令行模式下进入刚刚解压的spark源码目录 ...

2015-07-09 18:11 0 1927 推荐指数:

查看详情

使用sbt编译Spark子项目

前言 最近为了解决Spark2.1的Bug,对Spark源码做了不少修改,需要对修改的代码做编译测试,如果编译整个Spark项目快的话,也得半小时左右,所以基本上是改了哪个子项目就单独对那个项目编译打包。 Spark官方已经给出了如何使用mvn单独编译子项目的方法:http ...

Thu Feb 16 02:26:00 CST 2017 0 1563
emacs+ensime+sbt打造spark源码阅读环境

欢迎转载,转载请注明出处,徽沪一郎. 概述 Scala越来越流行, Spark也愈来愈红火, 对spark的代码进行走读也成了一个很普遍的行为。不巧的是,当前java社区中很流行的ide如eclipse,netbeans对scala的支持都不算太好。在这种情况下不得不想到编辑器之神emacs ...

Sat Apr 12 00:49:00 CST 2014 2 6846
SBT编译Spark的WordCount程序

问题导读: 1.什么是sbt? 2.sbt项目环境如何建立? 3.如何使用sbt编译打包scala? sbt介绍 sbt是一个代码编译工具,是scala界的mvn,可以编译scala,java等,需要java1.6以上。 sbt项目环境建立 sbt编译需要固定的目录格式,并且需要联网,sbt ...

Tue Apr 07 22:30:00 CST 2015 0 4925
Idea配置sbt(window环境)

近开发spark项目使用到scala语言,这里介绍如何在idea上使用sbt编译项目。 开发环境:windows 1. 下载sbt http://www.scala-sbt.org/download.html 我使用的是zip包,下载后解压到d:\tool\目录 2.添加配置 2.1 ...

Tue Nov 28 22:04:00 CST 2017 0 14557
window系统sbt的安装

最近进了一个新公司,用playframework,不用maven,用sbt,然后就来写一自己的心酸sbt安装进程吧。 第一步: 安装java8,配置好java的环境变量,这些不用多说吧,之所以是要8版本,是因为play2之后只支持8版本。 第二步: 下载sbt,http ...

Sun Apr 16 22:25:00 CST 2017 0 3608
Windows环境编译Spark源码

一、下载源码包   1. 下载地址有官网和github:   http://spark.apache.org/downloads.html   https://github.com/apache/spark   Linux服务器上直接下载:wget https ...

Tue May 14 18:20:00 CST 2019 0 680
环境系列——window10环境编译Flink源码编译

1. 环境 window10 家庭版; JDK 1.8 maven 3.2.5 Flink源码 IDEA以及安装scala插件 说明:Flink获取的方式可以参考阅读GitHub源码的正确打开方式,通过这种方式可以使用git切换版本以及查看提交记录,极大方便我们根据需要编译 ...

Fri Dec 18 07:56:00 CST 2020 0 336
使用sbt构建spark 程序

今日在学习scala和spark相关的知识。之前在eclipse编写了wordcount程序。但是关于导出jar包这块还是很困惑。于是学习sbt构建scala。 关于sbt的介绍网上有很多的资料,这里就不解释了。参考:http://wiki.jikexueyuan.com/project ...

Thu Oct 27 18:04:00 CST 2016 0 10210
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM