cloudcanal-zycgit 簡述 TiDB 是國內非常火熱的一款分布式數據庫,參考 Google Percolator 和 Spanner 模型進行構建,具備很好的擴展性,並且支持強一致事務和一定的計算能力,應用廣泛。 CloudCanal 提供了從傳統關系型數據庫實時同步 ...
簡述 CloudCanal . X 版本近期支持了自定義代碼能力,帶來了豐富的場景化數據能力,本文主要介紹在面向 To C 業務分庫分表情況下,如何通過 CloudCanal 進行數據實時匯聚。 本方案特點: 數據處理靈活,適配多變的業務數據匯聚需求 針對大部分帶結構數據源互通,可舉一反三 穩定性較好 技術點 約束沖突 對於一部分分庫分表中間件或業務自己寫的拆分邏輯,並沒有考慮寫入數據主鍵或者唯一 ...
2022-01-07 10:01 0 942 推薦指數:
cloudcanal-zycgit 簡述 TiDB 是國內非常火熱的一款分布式數據庫,參考 Google Percolator 和 Spanner 模型進行構建,具備很好的擴展性,並且支持強一致事務和一定的計算能力,應用廣泛。 CloudCanal 提供了從傳統關系型數據庫實時同步 ...
簡述 上一篇文章介紹了使用 CloudCanal 進行 MySQL 到 ElasticSearch 的寬表構建, 有蠻多朋友關注和嘗試使用,我們也在不斷迭代升級這個能力。 作為產品的通用功能,今天我們介紹下 MySQL -> ClickHouse 的寬表構建案例。 技術點 ...
簡述 CloudCanal 2.1.0.x 版本開始支持 Oracle 作為源端的數據遷移同步能力,目前邀請測試中。 本文通過 Oracle 到 MySQL 的數據遷移同步案例簡要介紹這個源端的能力。鏈路特點: 結構遷移、全量遷移、增量同步(數據)、數據校驗俱全流程全自動化 此文章簡要介紹 ...
簡述 之前的文章 5分鍾搞定 MySQL 到 ClickHouse 實時數據同步 發布后,很多用戶將 MySQL->ClickHouse 實時同步鏈路用了起來,但是我們很快發現,CollapsingMergeTree 在某些場景下可能並不能按預期進行數據折疊。 這個時候,我們參考 ...
前面我們已經介紹了ps/top/stats、Sysdig、Weave Scope、cAdvisor 和 Prometheus 多種容器監控工具和方案,是時候做一個比較了。下面將從五個方面來對比它們之間 ...
小表不會產生性能問題,大表才會。要練習SQL調優,還非得有大表不可。但數據不會自然產生,沒有數據時如何創建一張千萬級別的大表呢? 之前,我想用Oracle的批量插入語法去插入數據,此語法如下: 通過Java程序,可以把Insert all 和 select * from dual ...
分表 首先討論下什么樣的情況下適合分表? 根據我的經驗來看,當某張表的數據量已經達到千萬甚至上億,同時日增數據量在 2% 以上。 當然這些數字並不是絕對的,最重要的還是對這張表的寫入和查詢都已經影響到正常業務執行,比如查詢速度明顯下降,數據庫整體 IO 居高不下等。 而談到分表時我們着重 ...