本次分享主要包含两个方面的实战经验：索引性能和查询性能。 一. 索引性能（Index Performance） 首先要考虑的是，索引性能是否有必要做优化？ 索引速度提高与否？主要是看瓶颈在什么地方，若是 Read DB（产生 ...

亿级规模的Elasticsearch优化实战 Elasticsearch 的基本信息大致如图所示，这里就不具体介绍了。 本次分享主要包含两个方面的实战经验：索引性能和查询性能。 一. 索引性能（Index Performance） 首先要考虑的是，索引性能 ...

前言 最近一年使用 Elasticsearch 完成亿级别日志搜索平台「ELK」，亿级别的分布式跟踪系统。在设计这些系统的过程中，底层都是采用 Elasticsearch 来做数据的存储，并且数据量都超过亿级别，甚至达到百亿级别。 所以趁着有空，就花点时间整理一下具体怎么做 ...

一、前言 数据平台已迭代三个版本，从头开始遇到很多常见的难题，终于有片段时间整理一些已完善的文档，在此分享以供所需朋友的 实现参考，少走些弯路，在此篇幅中偏重于ES的优化，关于HBase，Hadoop的设计优化估计有很多文章可以参考，不再赘述。 二、需求说明 项目背景： 在一业务系统中 ...

背景 最近工作中遇到了一个问题：如何对大规模题库去重？公司经过多年的积累，有着近亿道题目的题库，但是由于题目来源不一导致题库中有很多重复的题目，这些重复的题目在检索时，除了增加搜索引擎的计算量外，并不会提高准确率。此外由于题目过多，搜索引擎往往采取了截断策略，只对一部分题目进行计算，这导致 ...

　　数据优化，本质就是时间换空间或者空间换时间 　　时间换空间就是软件层面的优化，其本质就是分开查询，1个亿的数据优化，可以按照日期来分数据， 假如说这是10天的数据量有1个亿，那么按照天来分成10个文件夹，每个文件夹的名称就是日期，这样，先查到要找的数据是哪一天的，就能减少9千万的数据 ...

前面已经写了很多亿级流量的文章, 中间讲了各种处理思路, 这儿将这些思路与业务综合起来, 情形一就是秒杀, 提到秒杀, 很多人都会觉得这是一件技术要求很高的事情, 因为这涉及到超大访问量(可能瞬间千万倍的用户访问商品)、维护数据一致性(不能超卖), 前者对性能有极高的要求, 而后者又正好拉低了性能 ...

目前的业务里面，有一个日志表，数据量达到了亿级别，现在需要进行优化，首先要做的事情就才用加索引的方式，并不是所有的数据库的字段都需要加索引，而是常用的搜索字段添加索引，但是要注意，如果数据量过大，索引依然会失效，此时可以考虑加上force idenx强制走索引的方式来解决不走索引的问题 ...