kafka是为分布式环境设计的,因此如果日志文件,其实也可以理解成消息数据库,放在同一个地方,那么必然会带来可用性的下降,一挂全挂,如果全量拷贝到所有的机器上,那么数据又存在过多的冗余,而且由于每台机器的磁盘大小是有限的,所以即使有再多的机器,可处理的消息还是被磁盘所限制,无法 ...

1.kafka如何扩展分区 https://www.cnblogs.com/wgy1/p/11611345.html 2.kafka如何完整删除topic https://blog.csdn.net/belalds/article/details/80575751 3.kafka manager ...

（一）kafka修改topic分区的位置 环境：kafka_2.10-0.8.2.1 + JDK1.7.0_80 1. 查看分区topic的分区分布 $ le-kafka-topics.sh --describe --topic http_zhixin_line1 结果如下： 2. ...

目录 脚本方法 Java 程序 参考资料 脚本方法 和Java程序比起来，运行得有点慢。 Java 程序 更详细的代码工程，可以参考我的GitHub 消费者获取分区列表，并获取分区最新的OFFSET 参考资料 How can I ...

一、概述 生产环境中，有一个topic的数据量非常大。这些数据不是非常重要，需要定期清理。 要求：默认保持24小时，某些topic 需要保留2小时或者6小时 二、清除方式 主要有3个： 1. 基于时间 2. 基于日志大小 3. 基于日志起始偏移量 详情，请参考链接 ...

仅个人实践中所遇到的问题，若有不对的，欢迎交流！ 一、场景描述 　　kafka集群中有几台突然挂了，后台日志显示设备空间满了，消息无法写入__consumer_offsets topic的分区中了。查看kafka数据目录下各个文件的大小，发现__consumer_offsets topic ...

一、概述 生产环境中，有一个topic的数据量非常大。这些数据不是非常重要，需要定期清理。 要求：默认保持24小时，某些topic 需要保留2小时或者6小时 二、清除方式 主要有3个： 1. ...

...