一. 概述 在大數據的靜態數據處理中，目前普遍采用的是用Spark+Hdfs（Hive/Hbase）的技術架構來對數據進行處理。 但有時候有其他的需求，需要從其他不同數據源不間斷得采集數據，然后存儲到Hdfs中進行處理。而追加（append）這種操作在Hdfs里面明顯是比較麻煩的一件事。所幸 ...

讀取Oracle的數據存入HDFS中 1）編寫配置文件 2）執行 3）查看HDFS結果 ...

...

一、概述 生產環境中，有一個topic的數據量非常大。這些數據不是非常重要，需要定期清理。 要求：默認保持24小時，某些topic 需要保留2小時或者6小時 二、清除方式 主要有3個： 1. 基於時間 2. 基於日志大小 3. 基於日志起始偏移量 詳情，請參考鏈接 ...

...

一、概述 生產環境中，有一個topic的數據量非常大。這些數據不是非常重要，需要定期清理。 要求：默認保持24小時，某些topic 需要保留2小時或者6小時 二、清除方式 主要有3個： 1. ...

...

存入mongodb的pipelines文件是這樣子寫的 settings文件應該這樣子寫： ...