原文:hdp3.1 hive 3.0的使用记录

近来在做项目中的技术调研,使用最新版的hdp . ,其中使用spark . 和hive . . 遇到 一些问题,记录如下: 一,使用spark sql client driver去访问hive创建的数据库,发现找不到,使用presto访问hive,只能读写外部表。 经过查询资料了解到,hive . 默认对内部表支持事务和ACID特性,spark等外部工具无法直接读取ACID的表数据, spark新 ...

2019-05-11 11:59 1 1341 推荐指数:

查看详情

HDP3.1 中配置 YARN 的 timeline server 使用外部的 HBase

HDP3.1 中的 YARN 的 timeline server 默认使用内置的 HBase,不知道为什么,总是过几天就挂掉,暂时还没找到原因。后来想着让它使用外部的 HBase 看看会不会还有此问题。配置如下: 前提: Ambari 中已经装好 YARN 和 HBase ...

Tue May 07 02:59:00 CST 2019 0 728
HDP Spark2 HIVE3.1 的问题

HDP 上安装了 Hive3.1 和 Spark2, 提交 Spark 作业时,报找不到 Hive 中表的问题 但是查一了下 hive 表,明明是存在这个表的。查看日志,注意到如下的一段日志。 没修改值之前,我在 Spark-shell 里创建了一张 hive 表,发现 ...

Wed Apr 24 03:01:00 CST 2019 2 1292
基于HDP3.0的基础测试

1,TestDFSIO write和read的性能测试, 测试hadoop读写的速度。该测试为Hadoop自带的测试工具,位于$HADOOP_HOME/share/hadoop/mapreduce目录 ...

Tue Sep 11 21:39:00 CST 2018 0 884
HDP Hive性能调优

的两个步骤来开启Hive LLAP: 1.在yarn中开启Hive LLAP的优先使用权 ...

Tue Oct 10 04:00:00 CST 2017 0 1224
对于hive使用的一点记录

最近一段时间因工作需要接触了一些hive上的使用!当然大部分都是比较基本的使用,仅当入门!各位看到有不足之处望多多指正! 废话不多说,开始: 首先是创建数据库 create database ‘数据库名称’ 创建外部表(大部分时候我使用的是外部表): CREATE ...

Tue Jan 23 18:52:00 CST 2018 0 973
ambari2.7.4+hdp3.1集成elastic search

一、准备工作 1、环境准备 ambari版本 2.7.4 hdp版本3.1 已在虚拟机中提前搭建好了集群环境。 只有一台虚拟机 所以全部采取单节点模式。 主机名 master ip 192.168.134.132 其中,elasticsearch master安装到master管理 ...

Wed May 06 04:50:00 CST 2020 0 1243
hadoop-hdp-ambari离线安装记录

一、系统准备 1. 创建user——ambari 2.关闭防火墙 redhat6: chkconfig iptables off /etc/init.d/iptables stop red ...

Thu May 19 00:34:00 CST 2016 0 2801
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM