使用场景: 某些时候,当几个topic生产者突发产生大量消息时,会造成磁盘空间紧张,这时,除了增加磁盘,另一个方法就是修改配置文件,将日志的保存时间修改小一点,但这两种方案,都必须停机和重启kafka,显然,这在生产集群上,是不能这么处理的。这里,可以通过在线修改单个topic的配置,以覆盖默认 ...
当kafka集群单个节点出现磁盘满了,需要清理历史topic数据 方法如下 : 停掉kafka进程,将kafka的server.properties中的log.retention.hours 将日志数据保留 分钟 或者 在不用停掉kafka进程的情况下执行: kafka configs.sh zookeeper localhost: entity type topics entity name t ...
2019-01-28 16:21 0 1808 推荐指数:
使用场景: 某些时候,当几个topic生产者突发产生大量消息时,会造成磁盘空间紧张,这时,除了增加磁盘,另一个方法就是修改配置文件,将日志的保存时间修改小一点,但这两种方案,都必须停机和重启kafka,显然,这在生产集群上,是不能这么处理的。这里,可以通过在线修改单个topic的配置,以覆盖默认 ...
背景介绍: 服务器 252G/40C SSD盘 mysql版本是5.6.25 表大小:CISXX_DATA_XXX 110908162 rows 第一次尝试直接加索引 mysql& ...
Kafka为broker,producer和consumer提供了很多的配置参数。 了解并理解这些配置参数对于我们使用kafka是非常重要的。本文列出了一些重要的配置参数。 官方的文档 Configuration比较老了,很多参数有所变动, 有些名字也有所改变。我在整理的过程中 ...
基本的操作和管理 1.Broker配置 配置文件放在Kafka目录下的config目录中,主要是server.properties文件 1.1常规配置 broker.id 在单机时无需修改,但在集群下部署时往往需要修改。它是个每一个broker在集群中的唯一表示,要求 ...
首先acks参数,是在kafkaProducer,也就是在生产者客户端里设置的也就是说,你往kafka写东西的时候,就可以设置这个参数。 这个参数实际上有三种值可以设置,分别是0,1,和all. 第一种选择是把参数设置成0 我的kafkaProducer在客户端,只要把消息发送出去,不管那条 ...
转载 https://www.cnblogs.com/luckyhui28/p/12001798.html#lingerms acks 这个参数用老指定分区中必须由多少个副本收到消息,之后生产者才会认为这条消息写入是成功的。acks参数有三种类型的值(都是字符串类型)。 acks ...
这篇文章主要说一下在生产过程中的kafka常用的调优参数, 首先kafka的版本是0.9.0.1,针对以下几个方面来说, 针对kafka的堆内存: 针对kafka的集群调优: kafka的的消息机制有三种,同步 异步和 oneway 同步(sync)的意味着消息是以 ...
# cat kafka-server-start.sh export KAFKA_HEAP_OPTS="-Xmx6G -Xms6G" 1 #!/bin/bash 2 # Licensed to the Apache Software Foundation (ASF ...