HDP3.1 中的 YARN 的 timeline server 默认使用内置的 HBase,不知道为什么,总是过几天就挂掉,暂时还没找到原因。后来想着让它使用外部的 HBase 看看会不会还有此问题。配置如下: 前提: Ambari 中已经装好 YARN 和 HBase ...
近来在做项目中的技术调研,使用最新版的hdp . ,其中使用spark . 和hive . . 遇到 一些问题,记录如下: 一,使用spark sql client driver去访问hive创建的数据库,发现找不到,使用presto访问hive,只能读写外部表。 经过查询资料了解到,hive . 默认对内部表支持事务和ACID特性,spark等外部工具无法直接读取ACID的表数据, spark新 ...
2019-05-11 11:59 1 1341 推荐指数:
HDP3.1 中的 YARN 的 timeline server 默认使用内置的 HBase,不知道为什么,总是过几天就挂掉,暂时还没找到原因。后来想着让它使用外部的 HBase 看看会不会还有此问题。配置如下: 前提: Ambari 中已经装好 YARN 和 HBase ...
HDP 上安装了 Hive3.1 和 Spark2, 提交 Spark 作业时,报找不到 Hive 中表的问题 但是查一了下 hive 表,明明是存在这个表的。查看日志,注意到如下的一段日志。 没修改值之前,我在 Spark-shell 里创建了一张 hive 表,发现 ...
本文记录使用ambari-server安装HDP的过程,对比于使用cloudera-manager安装CDH,不得不说ambari的易用性差的比较多~_~,需要用户介入的过程较多,或者说可定制性更高。 首先、安装之前,在每个主机节点上执行下面命令,已清除缓存,避免一些repo原因导致的安装失败 ...
1,TestDFSIO write和read的性能测试, 测试hadoop读写的速度。该测试为Hadoop自带的测试工具,位于$HADOOP_HOME/share/hadoop/mapreduce目录 ...
的两个步骤来开启Hive LLAP: 1.在yarn中开启Hive LLAP的优先使用权 ...
最近一段时间因工作需要接触了一些hive上的使用!当然大部分都是比较基本的使用,仅当入门!各位看到有不足之处望多多指正! 废话不多说,开始: 首先是创建数据库 create database ‘数据库名称’ 创建外部表(大部分时候我使用的是外部表): CREATE ...
一、准备工作 1、环境准备 ambari版本 2.7.4 hdp版本3.1 已在虚拟机中提前搭建好了集群环境。 只有一台虚拟机 所以全部采取单节点模式。 主机名 master ip 192.168.134.132 其中,elasticsearch master安装到master管理 ...
一、系统准备 1. 创建user——ambari 2.关闭防火墙 redhat6: chkconfig iptables off /etc/init.d/iptables stop red ...