spark应用执行机制分析 前段时间一直在编写指标代码，一直采用的是--deploy-mode client方式开发测试，因此执行没遇到什么问题，但是放到生产上采用--master yarn-c ...

问题 datafrme提供了强大的JOIN操作,但是在操作的时候，经常发现会碰到重复列的问题。在你不注意的时候，去用相关列做其他操作的时候，就会出现问题！ 假如这两个字段同时存在，那么就会报错 ...

前言 Spark中RDD的高效与DAG图有着莫大的关系，在DAG调度中需要对计算过程划分stage，暴力的理解就是stage的划分是按照有没有涉及到shuffle来划分的，没涉及的shuffle ...

写了很简单的一段spark代码，将结果保存为windows本地文件，执行之后总是报错NullPointerException 查询之后 发现是本地缺少hadoop需要的一个文件所致 如果本地已经安 ...

一、测试要求： 1、 数据采集（要求至少爬取三千条记录，时间跨度超过一星期）：（10分） 要求Python 编写程序爬取京东手机的评论数据，生成Json形式的数据文件。 ...

使用registerTempTable注册表是一个临时表，生命周期只在所定义的sqlContext或hiveContext实例之中。换而言之，在一个sqlontext（或hiveContext）中re ...

原文链接：https://blog.csdn.net/scgaliguodong123_/article/details/46277159 近年来，关于大数据讨论已然是热火朝天，虽不说是 ...

遇到问题：连接数据库报错Exception in thread “main” com.mysql.jdbc.exceptions.jdbc4.CommunicationsException ...