Spark Streaming socketTextStream简单demo
正文 SparkStreaming的入口是StreamingContext，通过scala实现 一个简单的实时获取数据。代码SparkStreaming官网也可以找到。 通过maven配置相关的配置，可能有时候会遇到如下情况： 找到你的maven配置 ...
原文：spark学习笔记-java调用spark简单demo
开发环境： win idea jdk . scala . . 具体步骤： 编写scala测试类 object MyTest def main args: Array String : Unit val conf new SparkConf conf.setAppName MyTest conf.setMaster local val sc new SparkContext conf val inp ...
2018-04-10 00:12 0 7455 推荐指数：
相关推荐
spark 学习笔记 show()
函数重载 第一个参数：返回的行数 第二个参数：bool或者int类型，flase代表字段内容全部展示，true代表只展示20个字符，或者可以自动指定 第三个参数：是否垂直打印，默认 ...
Spark SQL学习笔记
Spark SQL学习笔记 窗口函数 窗口函数的定义引用一个大佬的定义： a window function calculates a return value for every input row of a table based on a group of rows。窗口函数与与其他函数 ...
Spark学习笔记之-Spark远程调试
Spark远程调试 本例子介绍简单介绍spark一种远程调试方法，使用的IDE是IntelliJ IDEA。 1、了解jvm一些参数属性 -Xdebug -Xrunjdwp ...
spark学习(9)-spark的安装与简单使用
spark和mapreduce差不多，都是一种计算引擎，spark相对于MapReduce来说，他的区别是，MapReduce会把计算结果放 在磁盘，spark把计算结果既放在磁盘中有放在内存中，mapreduce把可能会把一个大任务分成多个stage，瓶颈发生在IO，spark有一个叫DAG ...
Spark学习笔记-使用Spark History Server
在运行Spark应用程序的时候，driver会提供一个webUI给出应用程序的运行信息，但是该webUI随着应用程序的完成而关闭端口，也就是 说，Spark应用程序运行完后，将无法查看应用程序的历史记录。Spark history server就是为了应对这种情况而产生的，通过配置，Spark ...
Spark学习笔记6：Spark调优与调试
1、使用Sparkconf配置Spark 对Spark进行性能调优，通常就是修改Spark应用的运行时配置选项。 Spark中最主要的配置机制通过SparkConf类对Spark进行配置，当创建出一个SparkContext时，就需要创建出一个SparkConf实例 ...
Spark学习笔记------CentOS环境spark安装
上一篇写了Hadoop分布式集群的安装以及配置过程，这一篇来继续spark的安装与配置，具体步骤如下： 一、准备工作 spark官网下载地址：http://spark.apache.org/downloads.html，选择spark版本和对应的hadoop版本，然后点 ...