go語言實現分布式id生成器


本文:https://chai2010.cn/advanced-go-programming-book/ch6-cloud/ch6-01-dist-id.html

分布式id生成器

有時我們需要能夠生成類似MySQL自增ID這樣不斷增大,同時又不會重復的id。以支持業務中的高並發場景。比較典型的,電商促銷時,短時間內會有大量的訂單涌入到系統,比如每秒10w+。明星出軌時,會有大量熱情的粉絲發微博以表心意,同樣會在短時間內產生大量的消息。

在插入數據庫之前,我們需要給這些消息、訂單先打上一個ID,然后再插入到我們的數據庫。對這個id的要求是希望其中能帶有一些時間信息,這樣即使我們后端的系統對消息進行了分庫分表,也能夠以時間順序對這些消息進行排序。

Twitter的snowflake算法是這種場景下的一個典型解法。先來看看snowflake是怎么一回事,見圖 6-1

snowflake

圖 6-1 snowflake中的比特位分布

首先確定我們的數值是64位,int64類型,被划分為四部分,不含開頭的第一個bit,因為這個bit是符號位。用41位來表示收到請求時的時間戳,單位為毫秒,然后五位來表示數據中心的id,然后再五位來表示機器的實例id,最后是12位的循環自增id(到達1111,1111,1111后會歸0)。

這樣的機制可以支持我們在同一台機器上,同一毫秒內產生2 ^ 12 = 4096條消息。一秒共409.6萬條消息。從值域上來講完全夠用了。

數據中心加上實例id共有10位,可以支持我們每數據中心部署32台機器,所有數據中心共1024台實例。

表示timestamp的41位,可以支持我們使用69年。當然,我們的時間毫秒計數不會真的從1970年開始記,那樣我們的系統跑到2039/9/7 23:47:35就不能用了,所以這里的timestamp只是相對於某個時間的增量,比如我們的系統上線是2018-08-01,那么我們可以把這個timestamp當作是從2018-08-01 00:00:00.000的偏移量。

worker_id分配

timestampdatacenter_idworker_idsequence_id這四個字段中,timestampsequence_id是由程序在運行期生成的。但datacenter_idworker_id需要我們在部署階段就能夠獲取得到,並且一旦程序啟動之后,就是不可更改的了(想想,如果可以隨意更改,可能被不慎修改,造成最終生成的id有沖突)。

一般不同數據中心的機器,會提供對應的獲取數據中心id的API,所以datacenter_id我們可以在部署階段輕松地獲取到。而worker_id是我們邏輯上給機器分配的一個id,這個要怎么辦呢?比較簡單的想法是由能夠提供這種自增id功能的工具來支持,比如MySQL:

mysql> insert into a (ip) values("10.1.2.101");
Query OK, 1 row affected (0.00 sec)

mysql> select last_insert_id();
+------------------+
| last_insert_id() |
+------------------+
|                2 |
+------------------+
1 row in set (0.00 sec)

從MySQL中獲取到worker_id之后,就把這個worker_id直接持久化到本地,以避免每次上線時都需要獲取新的worker_id。讓單實例的worker_id可以始終保持不變。

當然,使用MySQL相當於給我們簡單的id生成服務增加了一個外部依賴。依賴越多,我們的服務的可運維性就越差。

考慮到集群中即使有單個id生成服務的實例掛了,也就是損失一段時間的一部分id,所以我們也可以更簡單暴力一些,把worker_id直接寫在worker的配置中,上線時,由部署腳本完成worker_id字段替換。

開源實例

標准snowflake實現

github.com/bwmarrin/snowflake 是一個相當輕量化的snowflake的Go實現。其文檔對各位使用的定義見圖 6-2所示。

ch6-snowflake-easy

圖 6-2 snowflake庫

和標准的snowflake完全一致。使用上比較簡單:

package main

import (
    "fmt"
    "os"

    "github.com/bwmarrin/snowflake"
)

func main() {
    n, err := snowflake.NewNode(1)
    if err != nil {
        println(err)
        os.Exit(1)
    }

    for i := 0; i < 3; i++ {
        id := n.Generate()
        fmt.Println("id", id)
        fmt.Println(
            "node: ", id.Node(),
            "step: ", id.Step(),
            "time: ", id.Time(),
            "\n",
        )
    }
}  

當然,這個庫也給我們留好了定制的后路,其中預留了一些可定制字段:

    // Epoch is set to the twitter snowflake epoch of Nov 04 2010 01:42:54 UTC
    // You may customize this to set a different epoch for your application.
    Epoch int64 = 1288834974657

    // Number of bits to use for Node
    // Remember, you have a total 22 bits to share between Node/Step
    NodeBits uint8 = 10

    // Number of bits to use for Step
    // Remember, you have a total 22 bits to share between Node/Step
    StepBits uint8 = 12

Epoch就是本節開頭講的起始時間,NodeBits指的是機器編號的位長,StepBits指的是自增序列的位長。

sonyflake

sonyflake是Sony公司的一個開源項目,基本思路和snowflake差不多,不過位分配上稍有不同,見圖 6-3

sonyflake

圖 6-3 sonyflake

這里的時間只用了39個bit,但時間的單位變成了10ms,所以理論上比41位表示的時間還要久(174年)。

Sequence ID和之前的定義一致,Machine ID其實就是節點id。sonyflake與眾不同的地方在於其在啟動階段的配置參數:

func NewSonyflake(st Settings) *Sonyflake

Settings數據結構如下:

type Settings struct {
    StartTime      time.Time
    MachineID      func() (uint16, error)
    CheckMachineID func(uint16) bool
}

StartTime選項和我們之前的Epoch差不多,如果不設置的話,默認是從2014-09-01 00:00:00 +0000 UTC開始。

MachineID可以由用戶自定義的函數,如果用戶不定義的話,會默認將本機IP的低16位作為machine id

CheckMachineID是由用戶提供的檢查MachineID是否沖突的函數。這里的設計還是比較巧妙的,如果有另外的中心化存儲並支持檢查重復的存儲,那我們就可以按照自己的想法隨意定制這個檢查MachineID是否沖突的邏輯。如果公司有現成的Redis集群,那么我們可以很輕松地用Redis的集合類型來檢查沖突。

redis 127.0.0.1:6379> SADD base64_encoding_of_last16bits MzI0Mgo=
(integer) 1
redis 127.0.0.1:6379> SADD base64_encoding_of_last16bits MzI0Mgo=
(integer) 0

使用起來也比較簡單,有一些邏輯簡單的函數就略去實現了:

package main

import (
    "fmt"
    "os"
    "time"

    "github.com/sony/sonyflake"
)

func getMachineID() (uint16, error) {
    var machineID uint16
    var err error
    machineID = readMachineIDFromLocalFile()
    if machineID == 0 {
        machineID, err = generateMachineID()
        if err != nil {
            return 0, err
        }
    }

    return machineID, nil
}

func checkMachineID(machineID uint16) bool {
    saddResult, err := saddMachineIDToRedisSet()
    if err != nil || saddResult == 0 {
        return true
    }

    err := saveMachineIDToLocalFile(machineID)
    if err != nil {
        return true
    }

    return false
}

func main() {
    t, _ := time.Parse("2006-01-02", "2018-01-01")
    settings := sonyflake.Settings{
        StartTime:      t,
        MachineID:      getMachineID,
        CheckMachineID: checkMachineID,
    }

    sf := sonyflake.NewSonyflake(settings)
    id, err := sf.NextID()
    if err != nil {
        fmt.Println(err)
        os.Exit(1)
    }

    fmt.Println(id)
}

  


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM