原文:Shell 腳本並發數據到kafka topic

shell腳本並發數據到kafka topic 需求: 每秒發送大量數據到kafka,驗證下游系統性能,數據中的時間戳要求為當前時間,可以之間采集系統當前時間替換文件中舊的時間戳,保證每次發送的數據都為最新時間。 利用kafka自帶的腳本,將待發數據寫入文件中,然后通過讀取文件 方式,將數據批量發送到kafka task節點 shell content: 腳本執行效果 這可以通過修改文件中的數據量 ...

2021-01-30 16:28 0 469 推薦指數:

查看詳情

Shell腳本並發並發數的控制

https://www.jianshu.com/p/701952ffb755 正常情況下,Shell腳本是串行執行的,一條命令執行完才會執行接下來的命令。如下代碼: # !/bin/bash for i in `seq 1 10` do echo $i done echo ...

Fri Jun 21 23:02:00 CST 2019 0 2204
kafka 清除topic數據腳本

kafka 清除topic數據腳本 2018年07月25日 16:57:13 pete1223 閱讀數:1028 ...

Mon Dec 31 12:25:00 CST 2018 0 625
Shell腳本實現模擬並發並發數控制

#!/bin/bash#by inmoonlight@163.com #下面的代碼控制並發數。其實是利用令牌原理實現#一個線程要運行,首先要拿到令牌在該代碼中即read一行數據,讀取不到就會暫停,否則就拿到數據就運行命令,當完成后將令牌放回#將令牌放回即再在管道文件中寫入一行數據,這里的數據 ...

Thu Mar 09 17:47:00 CST 2017 0 3153
kafka刪除topic數據

一、概述 生產環境中,有一個topic數據量非常大。這些數據不是非常重要,需要定期清理。 要求:默認保持24小時,某些topic 需要保留2小時或者6小時 二、清除方式 主要有3個: 1. 基於時間 2. 基於日志大小 3. 基於日志起始偏移量 詳情,請參考鏈接 ...

Wed Jan 30 01:34:00 CST 2019 0 1241
kafka刪除topic數據

一、概述 生產環境中,有一個topic數據量非常大。這些數據不是非常重要,需要定期清理。 要求:默認保持24小時,某些topic 需要保留2小時或者6小時 二、清除方式 主要有3個: 1. ...

Thu Mar 12 04:56:00 CST 2020 0 6732
Kafka日志及Topic數據清理

由於項目原因,最近經常碰到Kafka消息隊列擁堵的情況。碰到這種情況為了不影響在線系統的正常使用,需要大家手動的清理Kafka Log。但是清理Kafka Log又不能單純的去刪除中間環節產生的日志,中間關聯的很多東西需要手動同時去清理,否則可能會導致刪除后客戶端無法消費的情況。 在介紹 ...

Wed Dec 21 06:22:00 CST 2016 1 73483
kafka刪除topic及其相關數據

1、刪除kafka存儲目錄(server.properties文件log.dirs配置,默認為"/tmp/kafka-logs")相關topic目錄 2、Kafka 刪除topic的命令是: ./bin/kafka-topics --delete --zookeeper ...

Tue Feb 21 03:35:00 CST 2017 0 4714
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM