redis cluster集群中鍵的分布算法

 Redis Cluster

Redis Cluster是Redis的作者 Antirez 提供的 Redis 集群方案 —— 官方多機部署方案，每組Redis Cluster是由多個Redis實例組成。如：當你配置了6個Redis實例，其中有3個作為主節點，其他3個作為從節點使用（最小配置）。使用Redis Cluster可以提高數據的安全性與服務的高可用性能，當其中有主節點宕機了，Redis Cluster會立馬使用對應的選舉機制，在從結點選出新的主節點，繼續對客戶端提供相應服務。

3主3從的 Redis Cluster結構圖

 

使用Redis Cluster的優勢：

（1）實現主從復制的高可用性

（2）緩解單機QPS的壓力，提高整個系統模塊的QPS能力

（3）進行橫向擴展（線性擴展），動態添加與刪除節點

（4）進行網絡流量分流，減小網絡的壓力

（5）進行負載均衡

 

在所有的 redis 實例節點之間彼此使用 Gossip 協議進行通信，通過 PING-PONG 機制來達到互聯狀態，在傳輸過程中使用特殊的二進制協議相互交互集群信息。Redis Cluster 在設計的時候使用了虛擬槽技術，每個節點上都有插槽（slot）和 cluster（集群管理插件），Antirez 將槽划分成 16384 個（即 0 ~ 16383）。

至於為何設計這個數量 Redis 作者給出了相應回答 （當我看到解釋的時候，我立刻想膜拜orz大佬，真的可以隨心而飛）。

------→ 作者的回答 （https://github.com/antirez/redis/issues/2576）

總結下來：

1.槽位越小，節點少的情況下，壓縮率高。  

2.redis的集群主節點數量基本不可能超過1000個。

 

Redis Cluster 集群引入了主從模式，一個主節點對應一個或者多個從節點，當主節點宕機的時候，就會啟用從節點。當其它主節點 PING一個主節點時，如果半數以上的主節點與該主節點通信超時，那么認為主節點A下線，這時它的從節點會頂上去服務。但是如果該主節點和它的從節點都宕機了，那么此集群就無法再提供服務了。 在對應的所有鍵中通過 Redis 內部實現算法 CRC16 對鍵進行哈希算法運算得到一個整數值后在 mod上 16384后，將得到的值映射對應到編號為 0 ~ 16383的槽子中。 Cluster 還允許用戶強制將某個 key 掛在特定槽位上，通過在 key 字符串里面寫入 tag 標記，這時key 所掛在的槽位等於 tag 所在的槽位。其中集群槽子類似下圖：

 

 在 Redis 的crc16.c 中 CRC 16 實現方式：

static const uint16_t crc16tab[256]= {
    0x0000,0x1021,0x2042,0x3063,0x4084,0x50a5,0x60c6,0x70e7,
    0x8108,0x9129,0xa14a,0xb16b,0xc18c,0xd1ad,0xe1ce,0xf1ef,
    0x1231,0x0210,0x3273,0x2252,0x52b5,0x4294,0x72f7,0x62d6,
    0x9339,0x8318,0xb37b,0xa35a,0xd3bd,0xc39c,0xf3ff,0xe3de,
    0x2462,0x3443,0x0420,0x1401,0x64e6,0x74c7,0x44a4,0x5485,
    0xa56a,0xb54b,0x8528,0x9509,0xe5ee,0xf5cf,0xc5ac,0xd58d,
    0x3653,0x2672,0x1611,0x0630,0x76d7,0x66f6,0x5695,0x46b4,
    0xb75b,0xa77a,0x9719,0x8738,0xf7df,0xe7fe,0xd79d,0xc7bc,
    0x48c4,0x58e5,0x6886,0x78a7,0x0840,0x1861,0x2802,0x3823,
    0xc9cc,0xd9ed,0xe98e,0xf9af,0x8948,0x9969,0xa90a,0xb92b,
    0x5af5,0x4ad4,0x7ab7,0x6a96,0x1a71,0x0a50,0x3a33,0x2a12,
    0xdbfd,0xcbdc,0xfbbf,0xeb9e,0x9b79,0x8b58,0xbb3b,0xab1a,
    0x6ca6,0x7c87,0x4ce4,0x5cc5,0x2c22,0x3c03,0x0c60,0x1c41,
    0xedae,0xfd8f,0xcdec,0xddcd,0xad2a,0xbd0b,0x8d68,0x9d49,
    0x7e97,0x6eb6,0x5ed5,0x4ef4,0x3e13,0x2e32,0x1e51,0x0e70,
    0xff9f,0xefbe,0xdfdd,0xcffc,0xbf1b,0xaf3a,0x9f59,0x8f78,
    0x9188,0x81a9,0xb1ca,0xa1eb,0xd10c,0xc12d,0xf14e,0xe16f,
    0x1080,0x00a1,0x30c2,0x20e3,0x5004,0x4025,0x7046,0x6067,
    0x83b9,0x9398,0xa3fb,0xb3da,0xc33d,0xd31c,0xe37f,0xf35e,
    0x02b1,0x1290,0x22f3,0x32d2,0x4235,0x5214,0x6277,0x7256,
    0xb5ea,0xa5cb,0x95a8,0x8589,0xf56e,0xe54f,0xd52c,0xc50d,
    0x34e2,0x24c3,0x14a0,0x0481,0x7466,0x6447,0x5424,0x4405,
    0xa7db,0xb7fa,0x8799,0x97b8,0xe75f,0xf77e,0xc71d,0xd73c,
    0x26d3,0x36f2,0x0691,0x16b0,0x6657,0x7676,0x4615,0x5634,
    0xd94c,0xc96d,0xf90e,0xe92f,0x99c8,0x89e9,0xb98a,0xa9ab,
    0x5844,0x4865,0x7806,0x6827,0x18c0,0x08e1,0x3882,0x28a3,
    0xcb7d,0xdb5c,0xeb3f,0xfb1e,0x8bf9,0x9bd8,0xabbb,0xbb9a,
    0x4a75,0x5a54,0x6a37,0x7a16,0x0af1,0x1ad0,0x2ab3,0x3a92,
    0xfd2e,0xed0f,0xdd6c,0xcd4d,0xbdaa,0xad8b,0x9de8,0x8dc9,
    0x7c26,0x6c07,0x5c64,0x4c45,0x3ca2,0x2c83,0x1ce0,0x0cc1,
    0xef1f,0xff3e,0xcf5d,0xdf7c,0xaf9b,0xbfba,0x8fd9,0x9ff8,
    0x6e17,0x7e36,0x4e55,0x5e74,0x2e93,0x3eb2,0x0ed1,0x1ef0
};

//crc16算法
uint16_t crc16(const char *buf, int len) {
    int counter;
    uint16_t crc = 0;
    for (counter = 0; counter < len; counter++)
            crc = (crc<<8) ^ crc16tab[((crc>>8) ^ *buf++)&0x00FF];
    return crc;
}

 

分配key到slot 的 keyHashSlot 算法如下：

unsigned int keyHashSlot(char *key, int keylen) {
    int s, e; /* start-end indexes of { and } */

    for (s = 0; s < keylen; s++)
        if (key[s] == '{') break;

    /* No '{' ? Hash the whole key. This is the base case. */
    if (s == keylen) return crc16(key,keylen) & 0x3FFF;

    /* '{' found? Check if we have the corresponding '}'. */
    for (e = s+1; e < keylen; e++)
        if (key[e] == '}') break;

    /* No '}' or nothing between {} ? Hash the whole key. */
    if (e == keylen || e == s+1) return crc16(key,keylen) & 0x3FFF;

    /* If we are here there is both a { and a } on its right. Hash
     * what is in the middle between { and }. */
    return crc16(key+s+1,e-s-1) & 0x3FFF;
}

公式：slot = CRC16（key）mod 16384 

 Redis Cluster 的每個節點會將集群的配置信息持久化到配置文件中，要提前設置文件是可以寫的。

每個槽所映射的數據通常比較均勻。