问题: 注意到自己负责kafka的某个topic最小的偏移量为0,而最大的偏移量都7亿多了,说明存储在kafka里面的数据没有定时删除,通过登陆到kafka服务器,查看配置文件services.properties,发现log.retention.hours=876000(100年),我猜想配置 ...
tailf kafka log server.log 看日志查询资料发现是磁盘满了。 解决思路: 节点 盘 副本 分区 为什么不直接报IO异常,而是内部错误不安全的内存操作 来自网络描述 参考: https: zh.wikipedia.org wiki E BB E BA BF E E AF AF https: bugs.openjdk.java.net browse JDK ...
2019-12-19 17:37 0 435 推荐指数:
问题: 注意到自己负责kafka的某个topic最小的偏移量为0,而最大的偏移量都7亿多了,说明存储在kafka里面的数据没有定时删除,通过登陆到kafka服务器,查看配置文件services.properties,发现log.retention.hours=876000(100年),我猜想配置 ...
很早之前就想动笔就这个kafka bug总结一番了,只是这个问题既不是本人发现,也不是自己动手修复,终归是底气不足,故而一直耽搁下来。怎奈此问题实在是含金量十足,又恰逢最近有人询问Kafka 0.10.2都有哪些提升,我终究还是决定给这个bug写点东西了。 事先 ...
最近几天,遇到一个莫名其妙的问题,每天几乎同一时段微服务自己跑着跑着就假死了,过几个小时就又自动恢复了。 通过对定时任务、网卡、内存、磁盘、业务日志的排查分析,只有磁盘的IO在假死前一段时间偏高,经查只要到业务访问高峰时段就会出现磁盘IO偏高的问题。 然后分 ...
Kafka最核心的思想是使用磁盘,而不是使用内存,可能所有人都会认为,内存的速度一定比磁盘快,我也不例外。在看了Kafka的设计思想,查阅了相应资料再加上自己的测试后,发现磁盘的顺序读写速度和内存持平。 而且Linux对于磁盘的读写优化也比较多,包括read-ahead和write-behind ...
数据写入方式 1. update-in-place原地更新 2. append-only btree/copy on write tree顺序文件末尾追加 数据被按照特定方式放置,提升读性能,但写性能下降,对b+树和hash更新时需要随机 ...
输入命令 du -sh /* | sort -nr 会列出根目录文件夹的大小 看到哪个文件夹比较大 删除相应的缓存,重启服务器即可 ...
错误信息:"cluster_block_exception","reason":"blocked by: [FORBIDDEN/12/index read-only / ...
前言 MySQL大量的deleted进程,导致了磁盘利用率达到100% 淘宝数据库内核月报 步骤 具体分析,大家可以看MySQL · 特性分析 · (deleted) 临时空间,这篇文章。 我们这里直接操作解决方法。 查看当前缓存目录 修改缓存目录 重启服务 ...