Kettle性能優化是一個系統工程,不僅涉及工具本身的優化,更涉及ETL工具之外的諸多因素,比如,ETL要讀取數據庫,那么目標DMBS的性能,SQL語句,網絡等相關因素都影響到執行效率。根據Kettle對數據ETL的過程性能調優,主要取決於三個因素:上游渠道,工具的大小與數量,下游渠道 ...
普通開發電腦,如果沒有網絡查詢步驟,kettle正常的速度應該在 條 秒。如果速度在 條 秒一下,就可能需要調優。 性能優化的方式包括如下幾種: .通過改變開始復制的數量 針對查詢控件,這種方式比較簡單,需要多長嘗試合理的復制數量 .在查詢的控件中,條件是相等查詢的話,可以使用緩存。例如:數據庫查詢中,如果是比較相等,可以勾選使用緩存和從表中加載所有數據。 .合適的添加數據庫索引 針對數據庫查詢控 ...
2015-01-30 19:48 2 12479 推薦指數:
Kettle性能優化是一個系統工程,不僅涉及工具本身的優化,更涉及ETL工具之外的諸多因素,比如,ETL要讀取數據庫,那么目標DMBS的性能,SQL語句,網絡等相關因素都影響到執行效率。根據Kettle對數據ETL的過程性能調優,主要取決於三個因素:上游渠道,工具的大小與數量,下游渠道 ...
修改kettleDB連接設置 1. 增加批量寫的速度:useServerPrepStmts=false rewriteBatchedStatements=true useCompre ...
版權聲明:本文為博主原創文章,未經博主允許不得轉載。 https://blog.csdn.net/ClamReason/article/details/49930479 Kettle正常轉換速度 場景 正常 不正常 ...
結合自己工作中的使用和收集的一些經驗,談談對Kettle中的ETL的一些優化。 1. 數據庫方面 1.1 配置連接池 如果業務數據量很多和短連接很多,可以考慮使用數據庫連接池,在這個時候,每次數據庫連接建立和斷開所花費的時間遠長於進行數據庫操作的時間,配置連接池可以更好的利用網絡資源 ...
性能調優在整個工程中是非常重要的,也是非常有必要的。但有的時候我們往往都不知道如何對性能進行調優。其實性能調優主要分兩個方面:一方面是硬件調優,一方面是軟件調優。本章主要是介紹Kettle的性能優化及效率提升。 一、Kettle調優 1、 調整JVM大小進行性能優化,修改 ...
1.創建MySQL空資源庫報錯問題:因為boolean類型的問題,Mysql中的boolean類型實際上保存為TINYINT,需要手動的修改生成資源庫的sql腳本,將其中的插入用戶ENABLED的值由 ...
ETL效率優化 開啟數據庫日志記錄及性能監控 如果我們想要優化一個ETL(KTR或者KJB)的性能,我們首先需要知道的就是它的瓶頸在哪里。而這些信息一般只能在ETL運行的步驟度量中看到,並且是不會持久化的。如果你希望把一些數據記錄下來,幫助以后進行查閱,那么可以開啟數據庫日志和性能監控 ...
性能調優在整個工程中是非常重要的,也是非常有必要的。但有的時候我們往往都不知道如何對性能進行調優。其實性能調優主要分兩個方面:一方面是硬件調優,一方面是軟件調優。本章主要是介紹Kettle的性能優化及效率提升。 一、Kettle調優 1、 調整JVM大小進行性能優化,修改Kettle ...