原文：Spark学习之路 （二十）SparkSQL的元数据
一 概述 SparkSQL 的元数据的状态有两种： in memory,用完了元数据也就丢了 hive , 通过hive去保存的，也就是说，hive的元数据存在哪儿，它的元数据也就存在哪儿。 换句话说，SparkSQL的数据仓库在建立在Hive之上实现的。我们要用SparkSQL去构建数据仓库的时候，必须依赖于Hive。 二 Spark SQL脚本 如果用户直接运行bin spark sql命令。 ...
2018-05-07 18:33 0 4651 推荐指数：
相关推荐
一、SparkSQL的进化之路 1.0以前： Shark 1.1.x开始： SparkSQL(只是测试性的) SQL 1.3.x: SparkSQL(正式版本)+Dataframe 1.5.x: SparkSQL 钨丝计划 1.6.x ...
1：首先配置hive-site.xml 2: 配置postgresql的jdbc jar路径 在spark-default.properties中配置 问题1 启动thriftserver, 10000监听端口死活打不开。把hive-site.xml重命名 ...
在Spark中，也支持Hive中的自定义函数。自定义函数大致可以分为三种： UDF(User-Defined-Function)，即最基本的自定义函数，类似to_char,to_date等 UDAF（User- Defined Aggregation Funcation），用户自定 ...
一，Spark SQL概述 1.1 什么是Spark SQL 1.2 为什么学Spark SQL 二，DataFrames 2.1 什么是DataFrames 2.2 创建DataFrames 三，DataFrame常用操作 3.1 DSL风格语法 3.2 ...
官网地址：http://spark.apache.org/docs/latest/streaming-programming-guide.html 一、简介 1.1 概述 Spark Streaming 是Spark核心API的一个扩展，可以实现高吞吐量的、具备容错机制的实时流数据的处理 ...
一、SparkCore、SparkSQL和SparkStreaming的类似之处 二、SparkStreaming的运行流程 2.1 图解说明 2.2 文字解说 1、我们在集群中的其中一台机器上提交我们的Application Jar，然后就会产生一个Application ...
一、图 1.1 基本概念 图是由顶点集合(vertex)及顶点间的关系集合（边edge）组成的一种数据结构。 这里的图并非指代数中的图。图可以对事物以及事物之间的关系建模，图可以用来表示自然发生的连接数据，如：社交网络、互联网web页面 常用的应用有：在地图应用中找到最短路径、基于与他人 ...