原文:PB级大规模Elasticsearch集群运维与调优实践

导语 腾讯云Elasticsearch 被广泛应用于日志实时分析 结构化数据分析 全文检索等场景中,本文将以情景植入的方式,向大家介绍与腾讯云客户合作过程中遇到的各种典型问题,以及相应的解决思路与方法,希望与大家一同交流。文章作者:bellen,腾讯云大数据研发工程师。 一 背景 某中型互联网公司的游戏业务,使用了腾讯云的 Elasticsearch 产品,采用 ELK 架构存储业务日志。 因为 ...

2020-08-07 10:23 2 890 推荐指数:

查看详情

大规模集群要求swappiness内核参数

swap分区 通常memory是机器的物理内存,读写速度低于cpu一个量级,但是高于磁盘不止一个量级。所以,程序和数据如果在内存的话,会有非常快的读写速度。但是,内存的造价是要高于磁 ...

Wed Jun 13 08:49:00 CST 2018 0 2215
大规模分布式系统实践

,只有少数几家公司拥有如此规模的自主知识产权的集群。我们非常幸运,能够维和管理如此大规模的生产集群。但短 ...

Wed Jan 11 18:44:00 CST 2017 0 2093
大规模Elasticsearch集群管理心得

转载:http://elasticsearch.cn/article/110 ElasticSearch目前在互联网公司主要用于两种应用场景,其一是用于构建业务的搜索功能模块且多是垂直领域的搜索,数据量级一般在千万至数十亿这个级别;其二用于大规模数据的实时OLAP,经典的如ELKStack,数据 ...

Wed Mar 01 05:34:00 CST 2017 0 2418
elasticsearch实战之2 - 系统性能

elasticsearch性能 集群规划 独立的master节点,不存储数据, 数量不少于2 数据节点(Data Node) 查询节点(Query Node),起到负载均衡的作用 Linux系统参数配置 文件句柄 Linux中,每个进程默认打开的最大文件句柄数 ...

Mon Oct 31 19:33:00 CST 2016 1 9157
Elasticsearch集群

系统 禁用swap 使用swapoff命令可以暂时关闭swap。永久关闭需要编辑/etc/fstab,注释掉swap设备的挂载项。 swapoff -a 如果完全关闭swap不可行,可以试着降低swap使用的优先,执行 sysctl ...

Tue Nov 07 05:14:00 CST 2017 0 2227
大厂必备技能:PB级数据仓库性能

摘要:众所周知,数据量大了之后,性能是大家关注的一点,所以我们在业务开发的时候,特别关注性能,做为一个架构师,必须对性能要了解,要懂。才能设计出高性能的业务系统。 一、GaussDB分布式架构 所谓集群是将多台物理服务器组建成一个逻辑平台,对外展现一个集群平台的形式。 所谓分布式 ...

Tue Sep 08 22:57:00 CST 2020 1 719
Elasticsearch集群

一、索引管理 1、 创建索引 PUT test-2019-03 { "settings": { "index": { ...

Sat Aug 25 18:42:00 CST 2018 0 2387
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM