數據庫中間件-ShardingSphere-Proxy(一)

1.現實中的問題

我們知道數據庫的數據，基本80%的業務是查詢，20%的業務涵蓋了增刪改，經過長期的業務變更和積累數據庫的數據到達了一定的數量之后，直接影響的是用戶與系統的交互，查詢時的速度，插入數據時的流暢度，系統的可用性，這些指標對用戶體驗都是會有影響的，不說用戶，你自己用是什么感覺？我經歷過且常見的無非以下幾個解決方案，從用戶，代碼，數據庫，不知道有沒有人跟我有相似的經歷

1.最簡單粗暴的就是從用戶下手，也就是通過業務的手段來約束，限定查詢時間，限定查詢條件，大批量需要申請后台工程師導出，不是說對這些方法嗤之以鼻，在某些場景下這樣也是不錯的方法.

2.檢查代碼，查詢語句什么的能優化的做下優化，這一點確實也是比較關鍵的，再好的架構和服務器，也頂不住遞歸死循環查詢這些.

3.結合一些數據庫監控工具或者對常用查詢的表，做一些數據庫基本的屬性設定，例如數據庫加索引，分分區.

雖然確實可以使用這些技術手段來提升本身的查詢速度，但是達到一定量級，這些手段得到的改善也不是很大，因為數據的量是實實在在的存在，假設此時加上並發量的增大，數據庫引擎在查詢或者計算時，使用的是服務器的CPU和內存，當資源消耗過高時，直接降低系統可用性，往往這個時候就需要通過整體業務上的變通或者技術架構的轉換上來着手解決問題了。
然而現實中業務上的改變，可能在落實上會存在很大的問題，但是可以從技術架構上來嘗試解決，主要在代碼整體架構或者數據庫存儲架構解決了，我們主要介紹數據架構層面的方案。

1.分庫

• 在水平分庫中，就是將數據庫中的表，存到不同的數據庫，但是不同庫的表數量和結構是一樣的，只是每個庫的數據都不一樣，沒有交集，庫的並集是全量數據

• 在垂直分庫中，以表為依據，按照業務歸屬不同，將不同的表拆分到不同的庫中，不同的庫存儲的可能是不同的表，庫的並集是全量數據

2.分表

• 水平分表就是將一張表分為多張表，表的結構都一樣，每個表的數據都不一樣，沒有交集，所有表的並集是全量數據；

• 垂直分表將一張表字段拆分為不同的表，合並起來就是整個全量數據，但是這種可以歸屬於設計之初的設計缺陷

雖然使用分庫分表可以一定程度解決上面所說的問題，但是分了之后也有可能再變大，總不能一直無腦拆分下去把，此時應該使用讀寫分離，也就是說讀寫分離應該是在分庫分表的基礎之上來實施的。

2.什么是ShardingSphere-Proxy？

在ShardingSphere中一共有3個核心組件 ShardingSphere-JDBC 定位是一個Java的框架 、ShardingSphere-Proxy、ShardingSphere-Sidecar 還在開發中，我們主要介紹ShardingSphere-Proxy和ShardingSphere-Proxy的實際應用。

ShardingSphere-Proxy定位為透明化的數據庫代理端，提供封裝了數據庫二進制協議的服務端版本，用於完成對異構語言的支持，主要目的對數據庫實現分庫分表和讀寫分離,應用場景不管是傳統的單體項目，或者現有流行的微服務項目中都可以使用，但是目前只支持 MySQL 和 PostgreSQL ， 它在整個系統架構中定位是一個數據庫中間件。

在這里我們選擇使用ShardingSphere-Proxy中間件，來作為我們實現分庫分表的工具，寫這個的目的主要是記錄ShardingSphere-Proxy的使用和一些基本的概念，至於說具體分成什么樣，如果您只想知道到底是分表，還是分庫，又或者是分庫分表，我可能幫不了什么，但是您可以按照現在所困擾的問題展開分析，然后使用ShardingSphere-Proxy落地。

3.分庫分表方案

實現分庫分表的方案根據不同的需求可能會延伸出很多，但是我們在邏輯上抽象出2種，一種是進程內和業務系統集成，一種是拆分出分庫分表作為獨立進程，

1.進程內方案

進程內的方案通常是將分庫分表實現業務放到系統內部,通常存在以下缺陷

• 1.系統和分庫分表會存在資源競爭

• 2.一個異常的話，另外一個也會異常，依賴性太強。

• 3.無法適應異構，對其他語言的支持

2.進程外方案

進程外方案將分庫分表邏輯拆分，使用單獨的工具實現客戶端將請求發送到系統， 系統通過數據庫中間件在內部進行分庫分表邏輯，然后存儲數據庫，通常存在以下缺陷

• 1.維護量上升

• 2.相對進程內，性能會差一點，但是如果內網部署基本可以接受

4.ShardingSphere-Proxy基本概念

使用ShardingSphere-Proxy在進行實現分庫分表或者查詢時，主要有6個階段，這整個階段中的核心步驟是由中間件來實現的。

• 1.選擇具體數據庫

• 2.sql解析將中間件連接成為真實數據庫連接

• 3.sql路由，選擇一個真實數據庫執行

• 4.sql重寫優化

• 5.sql執行真實數據庫獲取結果

• 6.結果合並從多個表或者庫中獲取結果

用戶主要是針對路由規則的配置，實現將數據分片到不同表以及不同的庫，那我們應該思考如何對數據進行分片呢，需要哪些條件？

• 1.分片鍵:數據表中的字段，選擇以哪個字段作為分片的條件。

• 2.分片算法：它的作用就是根據分片數據字段如何去實現數據的分片。

5.項目環境及搭建

ShardingSphere-Proxy是由java開發，所以首先我們需要准備java的基本環境。

1.環境准備

• 1.下載Mysql
• 2.下載jdk1.8 提取碼：wgl2
• 3.下載mysql-connector-java-5.1.47.jar
• 4.下載ShardingSphere-Proxy
  • 4.1 使用tar命令解壓 tar zxvf apache-shardingsphere-5.0.0-shardingsphere-proxy-bin.tar.gz
  • 4.2 將下載的mysql-connector-java-5.1.47.jar 拷貝到lib目錄下

6.分庫分表配置

1.ShardingSphere-Proxy 分表

1.以數據采集數據庫的電源信息數據表為例,如果沒有數據庫就創建數據庫

2.在ShardingSphere-Proxy中的conf下找到config-sharding.yaml配置文件進行配置

3.在config-sharding.yaml中配置數據庫連接

dataSources:
  dataacquisitionsources_0:
    url: jdbc:mysql://localhost:3306/dataacquisition?serverTimezone=UTC&useSSL=false
    username: root
    password: 123456
    connectionTimeoutMilliseconds: 30000
    idleTimeoutMilliseconds: 60000
    maxLifetimeMilliseconds: 1800000
    maxPoolSize: 50
    minPoolSize: 1

4.配置表和數據的分片規則，我們這里選擇取模分表

• 1. actualDataNodes節點用來配置分成幾張表{0..1}就是2張，如果配置10張那就
• 2. 如果多張表分表就使用多個邏輯表名和節點，注意一定要注意配置格式

rules:
- !SHARDING
  tables:
    powerinformation:# 邏輯表名
      actualDataNodes: dataacquisitionsources_0.powerinformation_${0..1} #分表
      tableStrategy: #數據分表策略
        standard:
          shardingColumn: id #分表字段
          shardingAlgorithmName: powerinformation_MOD
  shardingAlgorithms: #取模分表算法
    powerinformation_MOD:
      type: MOD
      props:
        sharding-count: 2

5.配置客戶端連接虛擬數據庫，一般和真實庫名對應

schemaName: dataacquisition

6.打開配置目錄的server.yaml配置文件，來設置虛擬服務器用戶和密碼

rules:
  - !AUTHORITY
    users:
      - root@%:root
      - sharding@:sharding
    provider:
      type: ALL_PRIVILEGES_PERMITTED

7.啟動bin目錄下的start.bat,如果出現以下畫面，那么恭喜你中間件被成功配置

8.使用客戶端連接虛擬服務器3307端口

9.執行腳本在虛擬服務器上創建表結構，那么中間件會默認按照預定的規則分表

create table powerinformation
(
 id int not null  AUTO_INCREMENT PRIMARY key,
 connectionId int(11),
 Station Text,
 voltage DECIMAL,
 resistance DECIMAL,
 electricity DECIMAL,
 createDate DATETIME
)
COLLATE='utf8_general_ci'
ENGINE=InnoDB
AUTO_INCREMENT=2
;

10.打開客戶端查看真實庫已經分表成功

2.ShardingSphere-Proxy 分庫

1.創建2個數據庫分別取名為dataacquisition_0和dataacquisition_1

2.打開配置文件,對代理配置不同數據庫連接

dataSources:
  dataacquisitionsources_0:
    url: jdbc:mysql://127.0.0.1:3306/dataacquisition_0?serverTimezone=UTC&useSSL=false #連接庫0
    username: root
    password: sa@123456
    connectionTimeoutMilliseconds: 30000
    idleTimeoutMilliseconds: 60000
    maxLifetimeMilliseconds: 1800000
    maxPoolSize: 50
    minPoolSize: 1
  dataacquisitionsources_1:
    url: jdbc:mysql://127.0.0.1:3306/dataacquisition_1?serverTimezone=UTC&useSSL=false #連接庫1
    username: root
    password: sa@123456
    connectionTimeoutMilliseconds: 30000
    idleTimeoutMilliseconds: 60000
    maxLifetimeMilliseconds: 1800000
    maxPoolSize: 50
    minPoolSize: 1  

3.配置分庫規則，由於現在是2個不同的庫,所以不需要配置數據分到表的規則

rules:
- !SHARDING
  tables:
    powerinformation:
      actualDataNodes: dataacquisitionsources_${0..1}.powerinformation  #庫名表達式
      databaseStrategy: #數據分庫策略
          standard:
            shardingColumn: id
            shardingAlgorithmName: powerinformation_MOD      #分庫選擇取模分庫
  shardingAlgorithms: #取模算法
    powerinformation_MOD:
      type: MOD
      props:
        sharding-count: 2

4.在虛擬庫中添加表和數據將會分配到2個不同的庫

3.ShardingSphere-Proxy 分庫分表

1.按照分庫的操作執行,分庫配置不變
2.配置文件配置分庫分表的規則

rules:
- !SHARDING
  tables:
    powerinformation:
      actualDataNodes: dataacquisitionsources_${0..1}.powerinformation_${0..1}
      tableStrategy:
        standard:
          shardingColumn: id
          shardingAlgorithmName: powerinformation_MOD
      databaseStrategy:
          standard:
            shardingColumn: id
            shardingAlgorithmName: powerinformation_MOD     
  shardingAlgorithms:
    powerinformation_MOD:
      type: MOD
      props:
        sharding-count: 2

7.分表算法分析實踐

1.取模分表（雪花算法）

1.采集表powerinformation使用Id作為自增主鍵，如果通過ShardingSphere-Proxy代理添加采集數據，數據會添加到powerinformation_0和powerinformation_1中，這個時候真實的業務表中會出現主鍵重復的現象，我們可以使用GUID或者使用ShardingSphere-Proxy中間件自帶的雪花算法來解決主鍵沖突問題。

2.在config-sharding.yaml配置文件的分片規則中配置雪花算法

rules:
- !SHARDING
  tables:
    powerinformation:# 邏輯表名
      actualDataNodes: dataacquisitionsources_0.powerinformation_${0..1} #分表
      tableStrategy: #數據分表策略
        standard:
          shardingColumn: connectionId #分表字段
          shardingAlgorithmName: powerinformation_MOD
      keyGenerateStrategy: #配置主鍵生成的策略
        column: Id  #主鍵名稱
        keyGeneratorName: snowflake  #使用雪花算法
  shardingAlgorithms:
    powerinformation_MOD:
      type: MOD
      props:
        sharding-count: 2
  keyGenerators:
    snowflake:  #算法名
      type: SNOWFLAKE
      props:
        worker-id: 123

3.修改創建表字段id為char類型，如果使用int因為雪花id太長，就會有問題

create table powerinformation
(
 id CHAR(100) not null   PRIMARY key,
 connectionId int(11),
 Station Text,
 voltage DECIMAL,
 resistance DECIMAL,
 electricity DECIMAL,
 createDate DATETIME
)
COLLATE='utf8_general_ci'
ENGINE=InnoDB
AUTO_INCREMENT=2
;
;

2.取模分表（分布式事務）

1.采集表powerinformation，如果通過ShardingSphere-Proxy代理添加采集數據，數據會添加到powerinformation_0和powerinformation_1中，這個時候單筆數據依次添加是沒有問題的，但是如果批量添加數據到2個表中，如果powerinformation_0成功了，powerinformation_1失敗了，會導致數據不一致。此時我們應該使用分布式事務

2.在server.yaml配置分布式事務

rules:
  - !AUTHORITY
    users:
      - root@%:root
      - sharding@:sharding
    provider:
      type: ALL_PRIVILEGES_PERMITTED
  - !TRANSACTION
    defaultType: XA
    providerType: Atomikos

3.字符串分表

1.采集表使用Id作為自增主鍵，如果在虛擬代理中添加數據，數據會添加到powerinformation_0和powerinformation_1中，我們使用的是powerinformation_Id作為分片鍵進行數據分片，這個時候如果使用取模分表會出現一些相同采集點的數據添加到不同數據表，查詢的時候，我想查看某一個采集點的數據，會涉及到多個表，導致性能下降，應對這種業務場景我們需要使用字符串分表

2.在config-sharding.yaml配置文件的分片規則中配置字符串分表，並且使用hash分表算法

rules:
- !SHARDING
  tables:
    powerinformation:# 邏輯表名
      actualDataNodes: dataacquisitionsources_0.powerinformation_${0..1} #分表
      tableStrategy: #數據分表策略
        standard:
          shardingColumn: Station #分表字段
          shardingAlgorithmName: powerinformation_MOD
      keyGenerateStrategy: #配置主鍵生成的策略
        column: Id  #主鍵名稱
        keyGeneratorName: snowflake  #使用雪花算法
  shardingAlgorithms:
    powerinformation_MOD: #配置字符串hash 算法名
      type: HASH_MOD #使用hash算法
      props:
        sharding-count: '2'
  keyGenerators:
    snowflake:  #算法名
      type: SNOWFLAKE
      props:
        worker-id: 123

4.范圍分表

1.我們使用的是基於powerinformation_Id作為分片鍵進行數據分片，這個時候，會出現Id分散到的不同表中，如果進行分頁查詢就涉及連表，導致查詢性能問題，我們可以將分表模式改為范圍分表,將連續的數據存在一個表。

2.在config-sharding.yaml配置文件的分片規則中配置范圍分表，並且使用范圍分表算法

rules:
- !SHARDING
  tables:
    powerinformation:# 邏輯表名
      actualDataNodes: dataacquisitionsources_0.powerinformation_${0..1} #分表
      tableStrategy: #數據分表策略
        standard:
          shardingColumn: powerinformation_Id #分表字段
          shardingAlgorithmName: powerinformation_BOUNDARY_RANGE
      keyGenerateStrategy: #配置主鍵生成的策略
        column: Id  #主鍵名稱
        keyGeneratorName: snowflake  #使用雪花算法
  shardingAlgorithms:
    powerinformation_MOD: #配置hash算法名
      type: HASH_MOD #使用hash算法
      props:
        sharding-count: '2'
    powerinformation_BOUNDARY_RANGE: #配置范圍算法名
      type: BOUNDARY_RANGE
      props:
        sharding-ranges: 100,200,300,400
  keyGenerators:
    snowflake:  #算法名
      type: SNOWFLAKE
      props:
        worker-id: 123

5.固定容量分表

1.使用范圍分表會導致最后一張表數據是最多的，隨着推移和數據量增大，依然會有查詢性能問題，所以我們需要設定當達到指定容量后進行分表

2.在config-sharding.yaml配置文件的分片規則中配置范圍分表，並且使用范圍分表算法，下面舉例為200萬條數據以下存在表0，大於200萬之后的是表2，最大是400萬數據

rules:
- !SHARDING
  tables:
    powerinformation:# 邏輯表名
      actualDataNodes: dataacquisitionsources_0.powerinformation_${0..1} #分表
      tableStrategy: #數據分表策略
        standard:
          shardingColumn: powerinformation_Id #分表字段
          shardingAlgorithmName: powerinformation_VOLUME_RANGE #使用固定容量
      keyGenerateStrategy: #配置主鍵生成的策略
        column: Id  #主鍵名稱
        keyGeneratorName: snowflake  #使用雪花算法
  shardingAlgorithms:
    powerinformation_MOD: #配置hash算法名
      type: HASH_MOD #使用hash算法
      props:
        sharding-count: '2'
    powerinformation_BOUNDARY_RANGE: #配置范圍算法名
      type: BOUNDARY_RANGE
      props:
        sharding-ranges: 2
    powerinformation_VOLUME_RANGE: #配置容量算法名
      type: VOLUME_RANGE @使用容量
      props:
        range-lower: '2000000'
        range-upper: '4000000'
        # 分片的區間的數據的間隔
        sharding-volume: '2000000'
  keyGenerators:
    snowflake:  #算法名
      type: SNOWFLAKE
      props:
        worker-id: 123

6.時間分表

1.在現實中如果我想按照一年或者一個月一個表存儲采集數據，ShardingSphere-Proxy也提供了相應的算法配置方式。

2.配置文件config-sharding.yaml中
2.在config-sharding.yaml配置文件的分片規則中配置范圍分表，並且使用范圍分表算法

rules:
- !SHARDING
  tables:
    powerinformation:# 邏輯表名
      actualDataNodes: dataacquisitionsources_0.powerinformation_${0..1} #分表
      tableStrategy: #數據分表策略
        standard:
          shardingColumn: createDate #分表字段
          shardingAlgorithmName: powerinformation_AUTO_INTERVAL #使用時間范圍定容量
      keyGenerateStrategy: #配置主鍵生成的策略
        column: Id  #主鍵名稱
        keyGeneratorName: snowflake  #使用雪花算法
  shardingAlgorithms:
    powerinformation_MOD: #配置hash算法名
      type: HASH_MOD #使用hash算法
      props:
        sharding-count: '2'
    powerinformation_BOUNDARY_RANGE: #配置范圍算法名
      type: BOUNDARY_RANGE
      props:
        sharding-ranges: 2
    powerinformation_VOLUME_RANGE: #配置容量算法名
      type: VOLUME_RANGE @使用容量
      props:
        range-lower: '5'
        range-upper: '10'
        # 分片的區間的數據的間隔
        sharding-volume: '5'
    powerinformation_AUTO_INTERVAL:
        type: AUTO_INTERVAL
        props:
          datetime-lower: '2022-01-01 23:59:59'
          datetime-upper: '2023-01-01 23:59:59'
          # 以1年度為單位進行划分
          sharding-seconds: '31536000'  
          # 以1個月為單位進行划分
          #sharding-seconds: '2678400'   
          # 以1天為單位進行划分
          #sharding-seconds: '86400'
  keyGenerators:
    snowflake:  #算法名
      type: SNOWFLAKE
      props:
        worker-id: 123

8.搭建以及常見問題

1.由於是yaml文件，一定要注意對應節點的格式對齊

2.建議使用大於等於5.0.0+版本 折騰4.0.0版本被惡心吐了

3.如果出現 near 0這種錯誤就是在配置中使用了特殊符號 建議使用 下划線的"_"

4.ShardingSphere-Proxy 默認使用 3307 端口，可以通過啟動腳本追加參數作為啟動端口號。如: bin/start.sh 3308

4.分表后插入數據出現錯誤，說明分表字段錯誤，但是插入前就需要分片，這個時候沒有數據，因為id為主鍵，應該不用id分片