在前面的Spark发展历程和基本概念中介绍了Spark的一些基本概念，熟悉了这些基本概念对于集群的搭建是很有必要的。我们可以了解到每个参数配置的作用是什么。这里将详细介绍Spark集群搭建以及xml参数配置。Spark的集群搭建分为分布式与伪分布式，分布式主要是与hadoop Yarn集群配合使用 ...

spark的集中运行模式 Local 、Standalone、Yarn 关闭防火墙：systemctl stop firewalld.service 重启网络服务：systemctl restart network.service 设置静态IP 设置/etc/hosts 配置免密 ...

Spark2.x 引入了很多优秀特性，性能上有较大提升，API 更易用。在“编程统一”方面非常惊艳，实现了离线计算和流计算 API 的统一，实现了 Spark sql 和 Hive Sql 操作 API 的统一。Spark 2.x 基本上是基于 Spark 1.x 进行了更多的功能和模块的扩展 ...

问题： 最近现场反馈采用yarn-cluster方式提交spark application后，在提交节点机上依然会存在一个yarn的client进程不关闭，又由于spark application都是spark structured streaming程序（application常年累月的执行 ...

1.构建使用idea 构建maven 项目 选择org.scala-tools.archetypes:scala-archetype-simple，然后一直点next,maven最好选中本地配置国内 ...

Spark SQL所支持的SQL语法 如果只用join进行查询，则支持的语法为： Spark SQL的SQL的框架 与Hive Metastore结合 （1）Spark要能找到HDFS和Hive的配置文件 第1种方法：可以直接 ...

Spark SQL快速入门 本地表 （1）准备数据 （2）确认HDFS已经启动 （3）进入spark-sql （4）创建表 （5）查看表结构 （6）查询本地数据表 使用spark-sql处理Hive ...

我们选择在线安装 这个是windows下的scala,直接双击安装就可以了 安装好之后可以验证一下 ...