原文:Shell 脚本并发数据到kafka topic

shell脚本并发数据到kafka topic 需求: 每秒发送大量数据到kafka,验证下游系统性能,数据中的时间戳要求为当前时间,可以之间采集系统当前时间替换文件中旧的时间戳,保证每次发送的数据都为最新时间。 利用kafka自带的脚本,将待发数据写入文件中,然后通过读取文件 方式,将数据批量发送到kafka task节点 shell content: 脚本执行效果 这可以通过修改文件中的数据量 ...

2021-01-30 16:28 0 469 推荐指数:

查看详情

Shell脚本并发并发数的控制

https://www.jianshu.com/p/701952ffb755 正常情况下,Shell脚本是串行执行的,一条命令执行完才会执行接下来的命令。如下代码: # !/bin/bash for i in `seq 1 10` do echo $i done echo ...

Fri Jun 21 23:02:00 CST 2019 0 2204
kafka 清除topic数据脚本

kafka 清除topic数据脚本 2018年07月25日 16:57:13 pete1223 阅读数:1028 ...

Mon Dec 31 12:25:00 CST 2018 0 625
Shell脚本实现模拟并发并发数控制

#!/bin/bash#by inmoonlight@163.com #下面的代码控制并发数。其实是利用令牌原理实现#一个线程要运行,首先要拿到令牌在该代码中即read一行数据,读取不到就会暂停,否则就拿到数据就运行命令,当完成后将令牌放回#将令牌放回即再在管道文件中写入一行数据,这里的数据 ...

Thu Mar 09 17:47:00 CST 2017 0 3153
kafka删除topic数据

一、概述 生产环境中,有一个topic数据量非常大。这些数据不是非常重要,需要定期清理。 要求:默认保持24小时,某些topic 需要保留2小时或者6小时 二、清除方式 主要有3个: 1. 基于时间 2. 基于日志大小 3. 基于日志起始偏移量 详情,请参考链接 ...

Wed Jan 30 01:34:00 CST 2019 0 1241
kafka删除topic数据

一、概述 生产环境中,有一个topic数据量非常大。这些数据不是非常重要,需要定期清理。 要求:默认保持24小时,某些topic 需要保留2小时或者6小时 二、清除方式 主要有3个: 1. ...

Thu Mar 12 04:56:00 CST 2020 0 6732
Kafka日志及Topic数据清理

由于项目原因,最近经常碰到Kafka消息队列拥堵的情况。碰到这种情况为了不影响在线系统的正常使用,需要大家手动的清理Kafka Log。但是清理Kafka Log又不能单纯的去删除中间环节产生的日志,中间关联的很多东西需要手动同时去清理,否则可能会导致删除后客户端无法消费的情况。 在介绍 ...

Wed Dec 21 06:22:00 CST 2016 1 73483
kafka删除topic及其相关数据

1、删除kafka存储目录(server.properties文件log.dirs配置,默认为"/tmp/kafka-logs")相关topic目录 2、Kafka 删除topic的命令是: ./bin/kafka-topics --delete --zookeeper ...

Tue Feb 21 03:35:00 CST 2017 0 4714
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM