大廠運維必備技能:PB級數據倉庫性能調優


摘要:眾所周知,數據量大了之后,性能是大家關注的一點,所以我們在業務開發的時候,特別關注性能,做為一個架構師,必須對性能要了解,要懂。才能設計出高性能的業務系統。

一、GaussDB分布式架構

所謂集群是將多台物理服務器組建成一個邏輯平台,對外展現一個集群平台的形式。

所謂分布式架構是將數據分而治之。以邏輯進行划分,將數據存放在不同的物理節點。

CN:協調節點 負責接收來自應用的訪問請求,並向客戶端返回執行結果。Coordinator負責分解任務,並調度任務分片在DataNode上並行執行。

CN:SQL語句的解析和任務規划,把具體的任務下發給DN結構

GTM:生成和維護全局事務ID、事務快照、時間戳等需要全局唯一的信息。

DN:數據節點,負責存儲業務數據(支持行存、列存、混合存儲)、執行數據查詢任務以及向Coordinator返回執行結果。【不單存儲還負責計算】

一台物理機【2-4個DN】

Coorinator做任務的規划 分發,規划完之后,把具體的任務拋給計算節點。

Crew3 Worker1和Crew3 Worker2就是任務樹中的葉節點就是數據的掃描任務,接受下級任務的數據輸入,向上級任務輸出數據。

Crew2 Worker1和Crew2 Worker2中間的節點就是各種數據運算任務,如Hash計算,Join操作,聚集操作和排序操作。接受下級任務的數據輸入,向上級任務輸出數據。

在非阻塞的任務流程中,上級任務不需要等待下級完成全部任務返回整體結果級才啟動,下級任務生成一條結果記錄就可以傳遞給上級。

阻塞情況下,上級任務需要等待下級任務完成所有數據處理工作。

二、調優原則與流程

說白了,就是少花錢,多辦事,資源利用最大化,比如我們在點查詢場景的時候盡量使用索引掃描。如果實在不能索引掃描,我們會讀取每一條元組和點查詢條件進行匹配。

在沒有資源瓶頸的情況下,盡量充分利用資源,比如在數據排序的時候,盡量使數據不下盤,在內存進行排序。因為在磁盤中讀寫的速度,肯定是不如內存的。

  • 靜態調優一般架構師會根據業務特征確定集群部署方案,表定義,行列存,復制/哈希分布等設計的過程。方案和表一般確定下來,后期如果要改動,代價很大。
  • 可能作為有經驗的人來說,收集統計信息,sql改寫,數據庫參數配置,plan hint等手段基本都做過,它屬於執行態調優。但是沒有經驗的人可能只知道理論,不知道如何操作,久而久之,理論都忘記了。

  1. 防止單點(單個DN)數據多, 導致整個集群有效容量下降。
  2. 防止單點掃描,壓力過大。
  3. 通過,分區,索引,局部聚簇實現。(后面會有實踐操作)
  4. 選擇關聯列,做為分布列,比如用id關聯,將id做為分布列,這樣查詢的時候,避免跨計算接點的數據流動,減少網絡壓力。
  5. 局部聚簇是列存儲下獨有的手段,通過把表數據按照指定列排序后存儲,配合稀疏索引,可以實現表數據的快速掃描。【華為獨有的科技】

三、伴隨場景介紹

發現一個犯罪嫌疑人,還有他的車輛,我怎么通過數據挖掘來找到犯罪團伙的場景。

四、調優實踐

Plan Information:在sql語句執行的時候,perf語句會包含非常多的執行動作,也會消耗很多的資源,我們通過perf把這些信息都記錄下來。常用的是前2個。Plan 執行過程中每個算子的執行概要信息。比如:scan,join等。另外一個是算子,with信息。

Predicate Information: 算子信息,每條數據掃描,伴隨的filter條件,join伴隨的關聯字段。

1.會對數據類似於分區,然后進行局部排序

2.並通過元數據信息記錄這個區間的最大值和最小值。

CUNone:0我忽略了多少個數據段

CUSome:6我需要掃描多少個數據段

Scan的性能提升的兩個主要策略

1)減少實際IO

a)索引

b)pck

c)分區

2)Scan壓力均衡

a)調整分布列

數據批量入庫的時候,按字段做一些排序。排完序之后,再入庫。

導入表數據和統計信息。

Time:10.422ms

不包含PCK大概花了23.902ms

pck建立的場景和索引的建立場景是有點像的。

nestloop的在特定場景下,性能會非常好,比如小表join大表的時候,

hashjoin在大多數場景下,性能最優。大表join大表

hash join一般期望數據量小的表做內表,

hash join:137ms

merge join:775ms

nestloop:1137.9ms

問題總結:

1.truncate和delete快

答: truncate 整個文件都不讀 delete標記元組 刪除

2.PCK對入庫的數據做局部排序影響較小。

3.MPP數據庫性能瓶頸在哪些?

答:數據庫性能瓶頸在具體數據處理業務場景,分布式架構場景下,業務CPU吃滿了,瓶頸在CPU,內存吃滿了,瓶頸在內存。

采集於華雲數據倉庫GaussDB DWS_數據倉庫性能調優-version 5.0-華哥

 

點擊關注,第一時間了解華為雲新鮮技術~


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM