HBase2.0新特性解析
作者 | 个推大数据运维工程师 行者 升级背景 个推作为专业的数据智能服务商，在业务开展过程中存在海量的数据存储与查询的需求，为此个推选用了高可靠、高性能、面向列、可伸缩的分布式数据存储系统——HBase。 然而，运行HBase老集群（使用HBase1.0版本）多年后，遇到了两大问题：各节 ...
原文：HBase2.0新特性之In-Memory Compaction
In Memory Compaction是HBase . 中的重要特性之一，通过在内存中引入LSM结构，减少多余数据，实现降低flush频率和减小写放大的效果。本文根据HBase . 中相关代码以及社区的讨论 博客，介绍In Memory Compaction的使用和实现原理。 原理 概念和数据结构 In Memory Compaction中引入了MemStore的一个新的实现类Compactin ...
2018-04-19 09:04 0 1512 推荐指数：
相关推荐
scala操作HBase2.0
在前面： scala:2.12 hbase:2.0.2 开发工具：IDEA 准备工作： 1、将生产上的hbase中的conf/hbase-site.xml文件拷贝到idea中的src/resources目录下 2、将生产环境中hbase中 ...
HBase2.0中的Benchmark工具 — PerformanceEvaluation
简介 在项目开发过程中，我们经常需要一些benchmark工具来对系统进行压测，以获得系统的性能参数，极限吞吐等等指标。 而在HBase中，就自带了一个benchmark工具—PerformanceEvaluation，可以非常方便地对HBase的Put、Get、Scan等API进行性能测试 ...
HBase2.0的修复工具HBCK2
1. 背景 在了解HBCK2之前，建议先了解一下啥是HBCK。HBCK是HBase1.x中的命令，到了HBase2.x中，HBCK命令不适用，且它的写功能（-fix）已删除，它虽然还可以报告HBase2.x集群的状态，但是由于它不了解HBase2.x集群内部的工作原理，因此其评估将不 ...
HBase2.0 meta信息丢失的修复方法
在HBase入库日志中发现有一个表入库失败，检查HBase服务端后发现该表的meta信息丢失了： 而HDFS上的region还在： 而HBCK工具不支持HBase2.0版本，只好自己写一个修复工具。网上可以搜到前辈们自己编写的一些工具，比如这一篇写的就比较详细 https ...
HBase MemStore和Compaction剖析
1.概述 客户端读写数据是先从Zookeeper中获取RegionServer的元数据信息，比如Region地址信息。在执行数据写操作时，HBase会先写MemStore,为什么会写到MemStore。本篇博客将为读者剖析HBase MemStore和Compaction的详细内容。 2. ...
HBase Compaction详解
HBase Compaction策略 RegionServer这种类LSM存储引擎需要不断的进行Compaction来减少磁盘上数据文件的个数和删除无用的数据从而保证读性能。 RegionServer后台有一组负责flush region的线程(MemStoreFlusher)，每次 ...
TensorFlow 2.0 新特性
安装 TensorFlow 2.0 Alpha 本文仅仅介绍 Windows 的安装方式： pip install tensorflow==2.0.0-alpha0 # cpu 版本 pip install tensorflow==2.0.0-alpha0 # gpu 版本 ...