分布式全局ID生成器-雪花算法

　　在復雜的分布式系統中全局ID生成器，通常需要滿足如下需求：

1》全局唯一

2》趨勢遞增

3》單調遞增

4》信息安全

5》含時間戳

　　同時需要滿足高可用、低延遲、高QPS(一次生成幾萬個ID)

1. 一般通用方案研究

1. UUID生成

如下：

UUID.randomUUID().toString()

結果：

cfa85940-ccf6-4069-90f2-b864e72a7603　　

生成的是36位長度的16進制的字符串，通常的做法是將中划線-替換為空格，也就是存到數據庫的是32位的字符串。這樣可以解決大部分的需求，但是不滿足遞增。

主要的缺點是：

(1) 無序： 無法預測他的生成順序，不能生成遞增有序的數字

(2) 作為主鍵某些場景存在問題。比如mysql中就不適合用UUID做主鍵

(3) 索引：B+ Tree索引的分裂

mysql的索引通過b+樹實現的，每一次插入新的數據UUID作為主鍵，每次都會導致索引分裂。

2. 數據庫自增主鍵

　　數據庫的自增ID機制主要原理：數據庫自增ID和mysql 數據庫的replace into 實現(插入一條記錄，如果表中唯一索引值遇到沖突，則替換老數據)。

測試：

CREATE TABLE t_test ( id BIGINT UNSIGNED NOT NULL auto_increment PRIMARY KEY, stub CHAR ( 1 ) NOT NULL DEFAULT '', UNIQUE KEY key_stub ( stub ) )

select * from t_test

replace into t_test(stub) values('b')

replace into t_test(stub) values('b')

select * from t_test 

select LAST_INSERT_ID()

(1) 單機版用auto_increment

(2) 集群版

　　集群中根據機器數量和步長然后設置自增。這樣不便於擴展，比如集群增加節點，需要重新計算集群步長，或者設置起始值遠遠大於其他機器。

3. 基於Redis生成全局ID策略

　　redis 是單線程的天生保證原子性，因此可以適應incr 和 incrby 命令實現。同樣是根據機器來設置步長。

其策略如下：假設五台機器

A:1-6-11-16-21

B:2-7-12-17-22

C:3-8-13-18-23

D:4-9-14-19-24

E:5-10-15-20-25

127.0.0.1:6379> keys *
(empty list or set)
127.0.0.1:6379> incr keya
(integer) 1
127.0.0.1:6379> incrby keya 5
(integer) 6
127.0.0.1:6379> incrby keya 5
(integer) 11

　　唯一的缺點是維護麻煩，配置麻煩。因此引入了下面的雪花算法。

2. 雪花算法

　　Twitter 的分布式自增ID算法snowflake ,經過測試，snowflake 每秒鍾能夠產生26萬個自增可排序的ID。

(1) 生成ID能夠按照時間有序生成

(2) 生成的結果是一個64bit 大小的整數，為一個Long 型(轉換成字符串長度最多19)

(3) 分布式環境不會產生碰撞(由datacenter 和 workId 做區分) 並且效率較高。

雪花算法的幾個核心組成部分：

 1bit： 不用，二進制中最高位表示符號位，1表示負數，0表示正數。生產的ID一般是正數，所以符號位一般都是0。

41bit 用來記錄時間戳，用來記錄時間戳，毫秒級。

10 bit -工作機器ID。 用來記錄工作的機器ID。可以部署在1024個機器上，包括5位datacenter 和 5位 workId。 5bit 表示的最大整數是 31(2^{5}-1)。也就是可以用0-31 表示datacenter 和 workid。

12bit-系列號。用來記錄同毫秒內產生的不同ID。12 bit 表示的最大整數是 (2^{12}-1) 4095。

git 地址： https://github.com/twitter-archive/snowflake  

1. 測試如下：

package com.xm.ggn.utils;

/**
 * Twitter_Snowflake<br>
 * SnowFlake的結構如下(每部分用-分開):<br>
 * 0 - 0000000000 0000000000 0000000000 0000000000 0 - 00000 - 00000 -
 * 000000000000 <br>
 * 1位標識，由於long基本類型在Java中是帶符號的，最高位是符號位，正數是0，負數是1，所以id一般是正數，最高位是0<br>
 * 41位時間截(毫秒級)，注意，41位時間截不是存儲當前時間的時間截，而是存儲時間截的差值（當前時間截 - 開始時間截)
 * 得到的值），這里的的開始時間截，一般是我們的id生成器開始使用的時間，由我們程序來指定的（如下下面程序IdWorker類的startTime屬性）。
 * 41位的時間截，可以使用69年，年T = (1L << 41) / (1000L * 60 * 60 * 24 * 365) = 69<br>
 * 10位的數據機器位，可以部署在1024個節點，包括5位datacenterId和5位workerId<br>
 * 12位序列，毫秒內的計數，12位的計數順序號支持每個節點每毫秒(同一機器，同一時間截)產生4096個ID序號<br>
 * 加起來剛好64位，為一個Long型。<br>
 * SnowFlake的優點是，整體上按照時間自增排序，並且整個分布式系統內不會產生ID碰撞(由數據中心ID和機器ID作區分)，並且效率較高，
 * 經測試，SnowFlake每秒能夠產生26萬ID左右。
 */
public class SnowflakeIdWorker {

    // ==============================Fields===========================================
    /** 開始時間截 (2015-01-01) */
    private final long twepoch = 1420041600000L;

    /** 機器id所占的位數 */
    private final long workerIdBits = 5L;

    /** 數據標識id所占的位數 */
    private final long datacenterIdBits = 5L;

    /** 支持的最大機器id，結果是31 (這個移位算法可以很快的計算出幾位二進制數所能表示的最大十進制數) */
    private final long maxWorkerId = -1L ^ (-1L << workerIdBits);

    /** 支持的最大數據標識id，結果是31 */
    private final long maxDatacenterId = -1L ^ (-1L << datacenterIdBits);

    /** 序列在id中占的位數 */
    private final long sequenceBits = 12L;

    /** 機器ID向左移12位 */
    private final long workerIdShift = sequenceBits;

    /** 數據標識id向左移17位(12+5) */
    private final long datacenterIdShift = sequenceBits + workerIdBits;

    /** 時間截向左移22位(5+5+12) */
    private final long timestampLeftShift = sequenceBits + workerIdBits + datacenterIdBits;

    /** 生成序列的掩碼，這里為4095 (0b111111111111=0xfff=4095) */
    private final long sequenceMask = -1L ^ (-1L << sequenceBits);

    /** 工作機器ID(0~31) */
    private long workerId;

    /** 數據中心ID(0~31) */
    private long datacenterId;

    /** 毫秒內序列(0~4095) */
    private long sequence = 0L;

    /** 上次生成ID的時間截 */
    private long lastTimestamp = -1L;

    // ==============================Constructors=====================================
    /**
     * 構造函數
     * 
     * @param workerId
     *            工作ID (0~31)
     * @param datacenterId
     *            數據中心ID (0~31)
     */
    public SnowflakeIdWorker(long workerId, long datacenterId) {
        if (workerId > maxWorkerId || workerId < 0) {
            throw new IllegalArgumentException(
                    String.format("worker Id can't be greater than %d or less than 0", maxWorkerId));
        }
        if (datacenterId > maxDatacenterId || datacenterId < 0) {
            throw new IllegalArgumentException(
                    String.format("datacenter Id can't be greater than %d or less than 0", maxDatacenterId));
        }
        this.workerId = workerId;
        this.datacenterId = datacenterId;
    }

    // ==============================Methods==========================================
    /**
     * 獲得下一個ID (該方法是線程安全的)
     * 
     * @return SnowflakeId
     */
    public synchronized long nextId() {
        long timestamp = timeGen();

        // 如果當前時間小於上一次ID生成的時間戳，說明系統時鍾回退過這個時候應當拋出異常
        if (timestamp < lastTimestamp) {
            throw new RuntimeException(String.format(
                    "Clock moved backwards.  Refusing to generate id for %d milliseconds", lastTimestamp - timestamp));
        }

        // 如果是同一時間生成的，則進行毫秒內序列
        if (lastTimestamp == timestamp) {
            sequence = (sequence + 1) & sequenceMask;
            // 毫秒內序列溢出
            if (sequence == 0) {
                // 阻塞到下一個毫秒,獲得新的時間戳
                timestamp = tilNextMillis(lastTimestamp);
            }
        }
        // 時間戳改變，毫秒內序列重置
        else {
            sequence = 0L;
        }

        // 上次生成ID的時間截
        lastTimestamp = timestamp;

        // 移位並通過或運算拼到一起組成64位的ID
        return ((timestamp - twepoch) << timestampLeftShift) //
                | (datacenterId << datacenterIdShift) //
                | (workerId << workerIdShift) //
                | sequence;
    }

    /**
     * 阻塞到下一個毫秒，直到獲得新的時間戳
     * 
     * @param lastTimestamp
     *            上次生成ID的時間截
     * @return 當前時間戳
     */
    protected long tilNextMillis(long lastTimestamp) {
        long timestamp = timeGen();
        while (timestamp <= lastTimestamp) {
            timestamp = timeGen();
        }
        return timestamp;
    }

    /**
     * 返回以毫秒為單位的當前時間
     * 
     * @return 當前時間(毫秒)
     */
    protected long timeGen() {
        return System.currentTimeMillis();
    }

    // ==============================Test=============================================
    /** 測試 */
    public static void main(String[] args) {
        SnowflakeIdWorker idWorker = new SnowflakeIdWorker(0, 0);
        for (int i = 0; i < 1000; i++) {
            long id = idWorker.nextId();
            System.out.println(Long.toBinaryString(id));
            System.out.println(id);
        }
    }
}

2. Springboot 中使用雪花算法

　　糊塗工具包整合了一些通用的工具類，包括雪花算法、加密、緩存等工具類。因此使用糊塗包來進行生成ID。

糊塗工具包 git: https://github.com/dromara/hutool

API 地址： https://hutool.cn/

1. 工具引入POM

        <dependency>
            <groupId>cn.hutool</groupId>
            <artifactId>hutool-all</artifactId>
            <version>5.6.6</version>
        </dependency>

 2. 對hutu工具進行包裝

package com.xm.ggn.utils;

import cn.hutool.core.lang.Snowflake;
import cn.hutool.core.net.NetUtil;
import cn.hutool.core.util.IdUtil;
import lombok.extern.slf4j.Slf4j;
import org.springframework.stereotype.Component;

import javax.annotation.PostConstruct;

/**
 * @Author: qlq
 * @Description
 * @Date: 18:46 2021/5/30
 */
@Slf4j
@Component
public class IdGenerator {

    private long workerId = 0;

    private long datacenterId = 1;

    private Snowflake snowflake = IdUtil.createSnowflake(workerId, datacenterId);

    @PostConstruct
    public void init() {
        try {
            workerId = NetUtil.ipv4ToLong(NetUtil.getLocalhostStr());
            log.info("當前機器的IP： {}, workerId: {}", NetUtil.getLocalhostStr(), workerId);
        } catch (Exception e) {
            log.error("獲取當前機器workerId 異常", e);
            workerId = NetUtil.getLocalhostStr().hashCode();
        }
    }

    /**
     * 使用默認的workId 和 datacenter
     *
     * @return
     */
    public synchronized long snowflakeId() {
        return snowflake.nextId();
    }

    /**
     * 使用自定義的workerId 和 datacenter
     *
     * @param workerId
     * @param datacenterId
     * @return
     */
    public synchronized long snowflakeId(long workerId, long datacenterId) {
        return IdUtil.createSnowflake(workerId, datacenterId).nextId();
    }

    public static void main(String[] args) {
        System.out.println(new IdGenerator().snowflakeId(1, 1));
    }
}

3. 其他類中引用

    @Autowired
    private IdGenerator idGenerator;

    @GetMapping("snowflakeIdTest")
    public Long snowflakeIdTest() {
        return idGenerator.snowflakeId();
    }

4. 總結：

優點：

毫秒數在高位，自增序列在地位，整合ID都是趨勢遞增的

不依賴於第三方中間件，穩定性高，生成的ID性能也高

可以根據業務自身需求分配bit 位，非常靈活

缺點：

依賴機器時鍾，如果機器時鍾回撥，會導致重復ID生成。可以使用百度開源的UidGenerator 或者 美團分布式ID生成系統 Leaf。